Lokale KI-gestützte Entwickleragenten: Chance, Risiko und Verantwortung

Die Benutzung von lokalen, KI-gestützten Entwickleragenten hat für mich einiges verändert – sowohl privat als auch professionell.

Schon vor Jahren, als das Thema zum ersten Mal aufkam, hatte ich, wie wahrscheinlich viele andere auch, den Gedanken, dass Entwicklungsagenten mir irgendwann die Arbeit streitig machen könnten. Heute glaube ich ehrlich gesagt nicht, dass sie einem guten Software Engineer wirklich die Arbeit wegnehmen. Trotzdem sehe ich ein Problem darin, dass KI-Agenten inzwischen so gut in der Softwareentwicklung geworden sind, dass zumindest einfache Code-Arbeiten von ihnen übernommen werden können.

An sich ist das erst einmal eine gute Sache. Code zu schreiben ist schließlich nur eine von vielen Tätigkeiten eines Software Engineers. Softwareentwicklung besteht nicht nur daraus, Zeile für Zeile Code zu produzieren, sondern auch daraus, Probleme zu verstehen, Architekturentscheidungen zu treffen, Risiken einzuschätzen, Kompromisse abzuwägen und langfristig wartbare Lösungen zu schaffen.

Gleichzeitig birgt die Nutzung solcher KI-Agenten einige Gefahren und sollte nicht unbedarft geschehen.

Das Problem mit der Hilfsbereitschaft

Eines der Hauptprobleme, die ich sehe, ist, dass diese Agenten unterstützend wirken sollen. Sie sind darauf ausgelegt, hilfreich zu sein. Und genau darin liegt auch das Problem.

Wenn ich nicht weiß, was ich tue, bekomme ich möglicherweise eine Software, die zwar funktioniert, aber nicht unbedingt gute Software ist. Denn wenn ein System uneingeschränkt hilfsbereit ist, setzt es oft einfach das um, was ich verlange – unabhängig davon, ob mein Ansatz sinnvoll ist.

Wenn ich zum Beispiel sage: „Ich hätte gern eine Webseite, die folgendes Problem löst“, dann bedeutet das noch lange nicht, dass der gewählte Weg auch der optimale ist. Es bedeutet nicht, dass die richtigen Werkzeuge verwendet werden. Und es bedeutet vor allem nicht, dass Aspekte wie Sicherheit, Wartbarkeit oder Performance ausreichend berücksichtigt werden.

Die KI wählt einen Ansatz, setzt ihn um und löst damit vielleicht mein unmittelbares Problem. Die entscheidende Frage ist aber: Löst diese Lösung mein Problem auch nachhaltig? Und handelt es sich dabei um gute Software – wie auch immer man gute Software persönlich definieren möchte?

Wenn der Agent in die falsche Richtung rennt

Ich habe in der Vergangenheit häufiger mit Software-Stacks gearbeitet, in denen ich mich aufgrund meiner beruflichen Erfahrung gut auskenne. Dabei kam es durchaus vor, dass mir ein KI-Agent völligen Unsinn empfohlen hat. Hätte ich ihn nicht gestoppt, wäre er direkt losgerannt und hätte diesen Unsinn auch implementiert.

Genau darin sehe ich eine reale Gefahr.

Wenn Software einfach „vibecoded“ wird, entstehen daraus Probleme. Wird sie nicht von professionellen Softwareentwicklerinnen und Softwareentwicklern überwacht, schreibt die KI ziemlich sicher Software, die nicht so performant, effizient oder sicher ist, wie sie sein könnte. Es können Sicherheitslücken entstehen – und in manchen Fällen werden sie mit hoher Wahrscheinlichkeit entstehen.

Das macht mir durchaus Sorge.

Spiel mit dem Feuer im Firmenkontext

Menschen geraten durch KI leicht in Versuchung, „mal eben“ Software schreiben zu lassen. Für den privaten Gebrauch kann das interessant und hilfreich sein. Aber selbst dort sollte man sich bewusst sein, dass Softwareentwicklung mehr ist als nur eine funktionierende Oberfläche oder ein Skript, das scheinbar tut, was es soll.

Im Firmenkontext wird das Ganze deutlich kritischer. Wenn KI-generierte Software mit Kundendaten arbeitet oder in produktiven Systemen eingesetzt wird, kann das schnell zu einem Spiel mit dem Feuer werden.

Gerade dort braucht es Menschen, die verstehen, was passiert. Menschen, die Architektur, Sicherheit, Datenschutz und langfristige Wartbarkeit beurteilen können. KI-Agenten können helfen, aber sie ersetzen nicht die Verantwortung, die mit professioneller Softwareentwicklung einhergeht.

Lernen durch Fehler

Ein weiteres Problem sehe ich bei Menschen, die gerade Informatik studieren oder neu in die Softwareentwicklung einsteigen.

KI-Agenten können sie in die Lage versetzen, fundamentale Fehler gar nicht mehr selbst machen zu müssen. Auf den ersten Blick klingt das gut. Niemand macht gerne Fehler. Aber viele der Fehler, die ich in meiner Karriere noch machen durfte, waren wichtig. Sie haben mir geholfen zu verstehen, warum bestimmte Dinge problematisch sind, warum manche Abkürzungen später teuer werden und warum bestimmte Best Practices überhaupt existieren.

Wenn angehende Entwicklerinnen und Entwickler diese Erfahrungen nicht mehr selbst machen, lernen sie möglicherweise auch weniger aus ihnen. Das könnte langfristig dazu führen, dass die Qualität der Software sinkt, die diese Entwicklerinnen und Entwickler erzeugen.

Das wäre schade.

Ein neues Zeitalter der Softwareentwicklung

Ich glaube, wir treten in ein Zeitalter ein, das sich fundamental von dem unterscheidet, in dem ich studiert habe. Das ist faszinierend, und ich begrüße viele der Möglichkeiten, die sich daraus ergeben.

KI-gestützte Entwickleragenten können unglaublich nützlich sein. Sie können entlasten, beschleunigen, inspirieren und helfen, Hürden zu überwinden. Gerade lokal laufende Agenten eröffnen spannende Möglichkeiten, weil sie sich stärker in persönliche Arbeitsweisen integrieren lassen und potenziell mehr Kontrolle bieten.

Aber diese neue Macht braucht auch Verantwortung.

KI-Agenten sollten nicht als Ersatz für Verständnis betrachtet werden. Sie sind Werkzeuge. Sehr mächtige Werkzeuge, aber eben Werkzeuge. Wer sie benutzt, sollte wissen, wann er ihnen vertrauen kann – und wann nicht.

Die Zukunft der Softwareentwicklung wird vermutlich nicht darin bestehen, dass KI uns einfach ersetzt. Sie wird vielmehr darin bestehen, dass Menschen mit KI arbeiten. Die Qualität dieser Zusammenarbeit hängt aber stark davon ab, ob wir weiterhin verstehen, was wir tun.

Und genau dieses Verständnis darf uns nicht verloren gehen.