Bottlenecks und
Flaschengeister
Erstmal Karten auf den Tisch: Nutzen Sie selbst generative KI-Tools, wenn Sie Code schreiben?
Mahja Sarschar GitHub Copilot ist für Studierende kostenlos, das habe ich natürlich ausprobiert. Ganz spannend, dass ein so großer Player auf diese Art die Menschen schon früh an seine Services binden will. Tatsächlich hat das bei mir aber nicht geklappt, weil ich es noch nicht als nützlich genug empfinde, um jetzt dafür zu bezahlen. Aktuell arbeite ich eher mit ChatGPT, um Lösungen zu prototypen. Dabei geht es mir nicht um Code-Generierung, sondern eher um die Schritte davor: Wie gehe ich an eine neue Aufgabe überhaupt ran?
LENZ BELZNER Ich selbst programmiere nicht mehr so viel. Leider! Wenn ich doch mal was schreibe, mache ich viel alleine, lasse mich aber durchaus auch von ChatGPT bootstrappen. Die Leute, mit denen ich zusammenarbeite, schwören alle auf IDE-Integrationen. Interessant sind hier vor allem die Tools, die es auch erlauben, den Kontext zu definieren, in dem gearbeitet werden soll.
Werden uns Tools wie diese das Programmieren irgendwann ganz abnehmen?
MS Ich habe eine ähnliche Frage in meiner Präsentation auf der International Conference on Automated Software Engineering in Sacramento dem Publikum gestellt: Wird dieser Fall in den nächsten fünf Jahren eintreten? Niemand im Raum hat sich gemeldet. Aus meiner Sicht liegt das daran, dass einige komplexe Probleme wie Halluzinationen, die vor allem beim Einsatz in echten Softwareprojekten kritisch sind, noch nicht gelöst wurden. Gleichzeitig führen diese Tools aber schon heute bei kleineren Aufgaben zu einer Steigerung der Effizienz, das fällt mir in meinem Arbeitsalltag immer wieder auf.
LB Sowohl in meinem engeren Kreis an Kolleginnen und Kollegen als auch im weiteren Netzwerk beobachte ich: Das Thema hat den Softwareentwicklungsprozess durchdrungen. Wo ich genauer hinsehen würde, ist beim Faktor Produktivität.
Wieso das?
LB Es stimmt, dass die einzelnen Entwicklerinnen und Entwickler von extremen Produktivitätsschüben berichten. Aber wenn man die Messung auf der Projekt- oder Team-Ebene vornimmt, ist dies nicht ganz so klar nachzuweisen. Zum einen liegt das daran, dass das Codieren selbst nur einen ganz kleinen Bruchteil von dem ausmacht, was beim Erzeugen von Software im Gesamtprojekt passiert. Ein anderer Grund und Gegenstand ständiger Debatte ist die Frage: Wie misst man überhaupt die Produktivität von Softwareentwicklung? Was ich aber an mir selbst und im Gespräch mit anderen auf jeden Fall beobachte: Der Prozess von der ersten Idee zur Bestimmung der grundsätzlichen Richtung für das Projekt bis zur Implementierung und Abnahme ist mit KI einfach anders als früher – und vermutlich auch produktiver. Das nachzuweisen, ist aus den genannten Gründen aber schwierig.
Wie nehmen Sie grundsätzlich die Stimmung rund um das Thema wahr?
LB In meinem Umfeld ist das ganz gemischt. Es gibt begeisterte Leute, die sich über diese Veränderungen sehr freuen. Gleichzeitig gibt es viele Ängste und Sorgen. Auch wenn ich mich eher in die Riege der Begeisterten einordnen würde, muss man sagen: KI ist wie ein Flaschengeist. Ich kann sagen, was ich mir wünsche, und dann wird mir dieser Wunsch erfüllt. Aber wie auch bei Flaschengeistern muss ich mir sehr genau überlegen, was ich mir wünsche – sonst gibt es ein böses Erwachen. Und diese Tatsache kollidiert oft mit der Erwartungshaltung, die durch das Marketing-Narrativ und das viele Geld, das dahintersteckt, geschürt wird.
„Ich nehme viel Skepsis wahr, aber wie so oft eher bei jenen, die noch nicht so tief im Thema sind. Menschen, die sich schon mehr mit der Materie auseinandergesetzt haben, sind durchaus euphorisch und sehr motiviert, dort anzusetzen, wo es aktuell noch hakt.”
Mahja Sarschar
Für Mahja Sarschar stellen sich unter anderem noch einige ethische Fragen rund um die Softwareentwicklung mit KI. (© privat)
Mahja Sarschar
In ihrer Masterarbeit hat Mahja Sarschar ein Tool zur Automatisierung von Software Entwicklung mittels Generativer KI programmiert: PACGBI. Dafür wurde sie auch vom Fachbereichstag Informatik (FBTI) auf der INFORMATIK 2024 ausgezeichnet. Zusammen mit Prof. Dr. Gefei Zhang und Annika Nowak hat sie dazu auch ein Paper veröffentlicht, das sie unter anderem auf einer Konferenz in den USA vorgestellt hat. Sie interessiert sich nun vor allem für die verantwortungsvolle und ethische Nutzung von KI für das Gemeinwohl und war unter anderem auch Teil des Common Grounds Forum 2024.
„Der Prozess von der ersten Idee zur Bestimmung der grundsätzlichen Richtung für das Projekt bis zur Implementierung und Abnahme ist mit KI einfach anders als früher – und vermutlich auch produktiver.“
Lenz Belzner
Ob der Einsatz von KI immer direkt zu mehr Produktivität führt, ist für Lenz Belzner noch anzuzweifeln. (© privat)
Lenz Belzner
Als Forscher und Gründer des Start-ups Zen AI (getzenai.com) erkundet Lenz Belnzer den Einsatz von Systemen, die selbstständig Entscheidungen treffen. Die Kombination von Software-Engineering und künstlicher Intelligenz in ihren vielfältigen Facetten fasziniert ihn immer wieder aufs Neue.
MS Ich nehme auch viel Skepsis wahr, aber wie so oft eher bei jenen, die noch nicht so tief im Thema sind. Menschen, die sich schon mehr mit der Materie auseinandergesetzt haben, sind durchaus auch ein bisschen euphorisch und sehr motiviert, dort anzusetzen, wo es aktuell noch hakt. Ein Paper, das mir von der Konferenz besonders im Kopf geblieben ist, beschäftigt sich mit einer neuen Prompting-Strategie, die es möglich macht, Pläne zu entwickeln, um komplexere Probleme zu bearbeiten. Das verdeutlicht schon die Geschwindigkeit, mit der sich in diesem Themenfeld Verbesserungen ergeben. Mein Studium habe ich ja im April beendet, aber wenn ich darüber nachdenke, wie es wäre, jetzt im Bachelorstudium zu starten, frage ich mich schon, ob ich nicht direkt in ‚Programmieren I‘ KI-Tools genutzthätte.
Und wäre das problematisch gewesen?
MS Die Frage, ob Studierende noch programmieren lernen sollten, wird ja aktuell viel diskutiert. Mein erster Gedanke war: Wir Menschen entwickeln uns eben weiter – vielleicht muss es wirklich nicht mehr sein. Aber ich bin zu dem Schluss gekommen, dass es weiterhin wichtig ist, ein Verständnis für diese Prozesse zu entwickeln und die Grundlagen zu beherrschen. Schon allein um Automation Bias zu verhindern, also die Tendenz, KI-generierten Inhalten zu vertrauen, obwohl man es besser wissen müsste. Abgesehen davon braucht es weitere neue Skills.
Welche sind das?
MS Das ist zum einen die Awareness für Nachhaltigkeit und ethische Nutzung. Jeder Prompt verbraucht immense Ressourcen – umso wichtiger ist es, diese Tools sehr gezielt einzusetzen. Ich war dieses Jahr Teil des Common Grounds Forum der GI und wir haben dazu eine Forderung gestellt: Die Nutzung von KI muss verantwortungsvoll und transparent sein und es braucht klare ethische Grundsätze, wie wir solche Systeme entwickeln. Außerdem würde ich mir wünschen, dass mehr Open-Source-Modelle genutzt werden. Der Zugang ist hier natürlich schwieriger: Ich kann nicht einfach eine URL öffnen und lostippen. Trotzdem ist es wichtig, gerade bei KI-Modellen auch auf solche Anbieter zu setzen, um digitale Sourveränität zu fördern.
LB Stichwort Verantwortung: Aktuell habe ich das Gefühl, es hilft total, wenn man sich gut auskennt mit dem, was man mit der KI erreichen möchte. Als Experte oder Expertin auf einem Gebiet kann ich besser bewerten, ob ich auf dem richtigen Weg bin. Aber was passiert, wenn ich abseits meines eigenen Fachgebiets unterwegs bin? Laufe ich da nicht Gefahr, mich von der Eloquenz der Maschine einlullen zu lassen? Ein Beispiel: Ich lasse mir ohne juristische Vorkenntnisse ein Vertragsdokument aufsetzen. Das ist etwas, das ich früher ohne Anwältin gar nicht hätte machen können. Gleiches kann ja innerhalb der Softwareentwicklung passieren, wenn wir plötzlich in Feldern programmieren, die wir gar nicht gut kennen.
MS Wie läuft das denn in deinen Teams? Ist das nicht schon jetzt der Fall, dass die KI gewisse Aufgaben schneller löst als ihr?
LB Absolut. Was mir dabei Sorgen macht, sind die unknown unknowns. Angenommen wir bauen eine API und entscheiden uns plötzlich gegen ein massives Safety Audit oder die Einbindung von Expertinnen und Experten, die sich gut mit der Absicherung von Schnittstellen auskennen – einfach nur, weil wir uns denken, die Maschine weiß ja, was sie tut. Das bereitet mir Bauchschmerzen. Obwohl mir bewusst ist, dass die Peer Review gleichzeitig ein Bottleneck ist, bei dem die KI Abhilfe schaffen können.
Ausgerechnet bei der Peer Review soll die KI unterstützen?
LB Was diesen Prozess oft so verlangsamt, ist ja nicht, dass der eigentliche Check so lange dauert, sondern dass die Person aus dem Team, die ihn vornimmt, einen krassen Kontextwechsel vornehmen muss. Hier können Sprachmodelle hervorragend unterstützen, wenn man sie klug einsetzt. Als Prüfer könnte ich zum Beispiel mit der KI chatten und fragen: Was wurde hier bereits versucht? Was war die Idee hinter diesen Änderungen?
MS Gefährlich wird es nur, wenn die Review komplett der KI überlassen wird. Schließlich ist die Wahrscheinlichkeit hoch, dass sie dann ja auch KI-generierten Code prüft. Das nimmt den Menschen komplett aus dem Prozess und birgt die Gefahr von Fehlerverblindung und der Verletzung von Best Practices bezüglich unabhängiger Code Reviews. Ein Ergebnis meiner Arbeit war, dass am Ende auf jeden Fall trotzdem eine Entwicklerin oder ein Entwickler den Code prüfen sollte.
LB Sehe ich genauso: Zumindest aktuell braucht es in der Praxis diesen Menschen, der die Verantwortung übernimmt, schon allein aus juristischen Gründen. Wir würden keine Geschäfte miteinander machen, wenn nicht irgendjemand das Risiko trägt. Solange es diese Anfälligkeit für Fehler gibt, ist es essenziell, dass wir uns weiterhin als Teil des Prozesses begreifen. Fest steht aber, dass sich die Art, wie wir mit komplexen Systemen umgehen, gerade fundamental ändert. Und damit müssen wir lernen, umzugehen, ob wir wollen oder nicht.
