Was ist ein LLM-Agent? Und warum sie unsere Arbeitswelt verändern

22.07.2025

LLM-Agent*innen sind keine Chatbots mit Extra-Features – sie planen, handeln und nutzen Tools. In diesem Beitrag zeige ich, was sie wirklich leisten, wie sie funktionieren – und was ich bei der SHAPE Masterclass am KIT darüber gelernt habe.

LLM-Agent*innen verstehen: Insights aus der SHAPE Masterclass am KIT

LLM-Agent*innen sind keine Chatbots mit ein paar Extra-Features – sie sind die nächste Evolutionsstufe der Künstlichen Intelligenz. Sie planen, handeln und nutzen Tools, um komplexe Aufgaben eigenständig zu bewältigen. Aber wie funktioniert das in der Praxis – und wie weit sind wir wirklich?

In diesem Beitrag nehme ich Sie mit zur SHAPE Masterclass am KIT in Karlsruhe, wo ich zwei intensive Tage lang mit Hochschulen, Unternehmen und Forschungseinrichtungen genau diesen Fragen nachgegangen bin – und echte Prototypen entwickelt habe. Sie erfahren:

  • Was LLM-Agent*innen technisch ausmacht
  • Wie sie Unternehmen helfen können, Effizienz und Innovation gleichzeitig zu steigern
  • Warum Co-Creation entscheidend ist, wenn aus einer Idee ein funktionierender Agent werden soll

Was sind LLM-Agent*innen – und was unterscheidet sie von Chatbots?

Was macht LLM-Agent*innen zur nächsten Evolutionsstufe der KI?

LLM-Agent*innen sind keine Chatbots mit Extra-Features. Sie verbinden die Sprachkompetenz großer Sprachmodelle (LLMs) mit drei entscheidenden Fähigkeiten:

  • Tools nutzen (z. B. Kalender, APIs, Datenbanken)
  • Memory über mehrere Interaktionen hinweg behalten
  • Planning – eigenständig Ziele verfolgen und Schritte planen

Damit sind sie nicht nur Antwortmaschinen, sondern digitale Prozessbegleiter*innen, die handeln können.

Start building … From LLM to Agents

SHAPE Masterclass

Was ist ein LLM und wie funktioniert es?

Bevor man verstehen kann, was Agent*innen leisten, muss man klären, worauf sie basieren – nämlich auf LLMs, also Large Language Models.

Was ist ein LLM?
Ein LLM ist ein großes Sprachmodell, das mit riesigen Textmengen trainiert wurde. Es kann Texte analysieren, verstehen und generieren – von Blogbeiträgen über Code bis zu Supportantworten. Zu den bekanntesten Modellen gehören GPT (OpenAI), Claude (Anthropic), Gemini (Google) oder LLaMA (Meta).

LLMs sind heute die Grundlage vieler KI-Anwendungen – von Chatbots bis zur Textanalyse. Doch sie haben klare Grenzen.

Wie funktioniert ein LLM-System? Das wurde in der SHAPE Masterclass sehr anschaulich gezeigt:

Ein typisches LLM-System basiert auf zwei Eingaben:

  • System Prompt: definiert, wie das Modell antwortet (z. B. analytisch, freundlich, kurz).
  • User Prompt: die konkrete Nutzer*innenfrage oder Aufgabe.

Das Modell kombiniert beides – und liefert eine Antwort. Punkt. Kein Gedächtnis, keine Mehrschritt-Planung, keine Tool-Integration. Das reicht für einfache Aufgaben – stößt aber bei komplexeren Szenarien schnell an Grenzen.

„Die Zukunft der KI ist nicht nur textbasiert – sie ist handlungsfähig..“

Prof. Dr. Elena Krause-Söhner

Was macht LLM-Agent*innen aus?

Genau hier setzen Agent*innen an. Sie sind kein neues Modell, sondern eine strukturierte Erweiterung von LLM-Systemen, um komplexere, realitätsnähere Aufgaben zu bewältigen.

Ein Agent unterscheidet sich durch drei zentrale Fähigkeiten:

  • Tools: Er kann externe Anwendungen nutzen – etwa Kalender, Datenbanken, APIs oder interne Systeme.
  • Memory: Er merkt sich Informationen über mehrere Interaktionen hinweg.
  • Planning: Er verfolgt Ziele und plant eigenständig die nötigen Schritte.

Diese Architektur macht den Unterschied: Ein Agent ist kein smarter Chatbot – sondern ein digitaler Prozessbegleiter, der tatsächlich handeln kann.

Praxis-Einblicke: Meine Learnings aus der SHAPE Masterclass

In der SHAPE Masterclass ging es nicht um Theorie, sondern um Anwendung. Im inspirierenden Studio des TRIANGEL Transfer | Kultur | Raum in Karlsruhe haben wir mit interdisziplinären Teams reale Agent*innen-Ideen entwickelt und getestet.

Besonders spannend war für mich:

  • In einem Promptathon haben wir in nur 45 Minuten ein funktionierendes, spielbares Corporate Game entwickelt – mit Agent*innen als Spielmechanik.
  • Mein eigener Prototyp „ambiliyn“ wurde konzipiert und in Phase I getestet – angestoßen durch den Input von Jonas Liebschner (KIT).
  • Durch das Framework „To Bot or not to Bot“ von Matthäus Wilga (FAU) konnte ich meine Agent*innenidee strukturiert weiterentwickeln.
  • Die technischen Grundlagen – von Toolanbindung bis Promptdesign – wurden greifbar gemacht, nicht nur besprochen.

Was ich daraus mitnehme: Die Entwicklung von Agent*innen ist keine technische Aufgabe allein. Sie braucht Co-Creation, Experimentierfreude und echte Anwendungsfälle. Und genau das wurde bei SHAPE möglich gemacht.

Warum ist die Modellwahl bei LLM-Agent*innen so entscheidend?

Ein weiterer zentraler Punkt aus der Masterclass: Nicht jedes LLM eignet sich gleich gut für Agent*innen-Anwendungen. Die Wahl des richtigen Modells hängt stark vom Ziel, den Datenschutzanforderungen und den technischen Ressourcen ab.

Proprietäre LLMs:

  • Anbieter: GPT, Claude, Gemini, Mistral (API)
  • Vorteile: leistungsfähig, schnell einsetzbar, gute API-Dokumentation
  • Einschränkungen: Blackbox-Logik, eingeschränkte Kontrolle, Datenschutzfragen

Open-Source-LLMs:

  • Anbieter: LLaMA, DeepSeek, Mistral (Open Release), Hugging Face Modelle
  • Vorteile: anpassbar, lokal betreibbar, volle Kontrolle
  • Einschränkungen: technischer Aufwand, eigener Betrieb nötig

Mein Learning:
Projekte mit Agent*innen beginnen nicht mit der Architektur, sondern mit der Frage nach dem passenden Modell – je nach Use Case, Ressourcen und Regulierung.

Welche Chancen bieten LLM-Agent*innen für Unternehmen?

Aus Unternehmenssicht ergeben sich drei Haupthebel:

  1. Effizienz steigern – repetitive Aufgaben automatisieren, Daten besser nutz
  2. Innovation vorantreiben – neue Services oder Geschäftsmodelle entwickeln

Mensch-KI-Zusammenarbeit neu denken – hybride Teams aus Expertinnen, KI-Entwicklerinnen und (Software-)Ingenieur*innen


Warum ist jetzt der richtige Moment, mit LLM-Agent*innen zu experimentieren?

Agent*innen-Technologie ist noch jung – und genau das ist der Vorteil. Unternehmen, die jetzt Pilotprojekte starten, können früh Expertise aufbauen, eigene Use Cases entwickeln und so einen Wettbewerbsvorsprung sichern.

Mein Fazit nach der SHAPE Masterclass: „Ein Agent ist kein smarter Chatbot – er ist ein neue Teammitglied, der Aufgaben übernimmt, Entscheidungen unterstützt und Prozesse beschleunigt.

Wie gelingt der Schritt vom Ausprobieren zum Praxiseinsatz?

Warum wir mehr Formate wie SHAPE brauchen

Die SHAPE Masterclass hat für mich deutlich gemacht: Wir brauchen viel mehr Räume, in denen Theorie und Praxis aufeinandertreffen. Hochschulen bringen aktuelles Forschungswissen und methodische Tiefe, Unternehmen bringen reale Herausforderungen und konkrete Anwendungsfälle. Wenn diese beiden Welten zusammenkommen, entstehen Lösungen, die nicht nur technisch spannend, sondern auch wirtschaftlich relevant sind.

Gerade im Bereich LLM-Agent*innen ist das essenziell. Die Technologie ist neu, die Einsatzmöglichkeiten riesig – und die Unsicherheit groß. Formate wie SHAPE bieten den Rahmen, gemeinsam zu experimentieren, zu scheitern, zu lernen und am Ende etwas zu entwickeln, das tatsächlich genutzt werden kann.

Fazit: Was ist ein LLM-Agent – und warum ist das relevant?

Ein LLM-Agent ist mehr als ein smarter Chatbot. Er kann nicht nur Texte generieren, sondern auch eigenständig handeln: Ziele verfolgen, Tools bedienen, Informationen im Gedächtnis behalten und Entscheidungen ableiten. Damit verändert sich nicht nur die Art, wie wir Technologie einsetzen – sondern auch, wie wir zusammenarbeiten.

Für Unternehmen bedeutet das:

  • Repetitive Aufgaben automatisieren und Teams entlasten
  • Individuelle Services skalieren, ohne Qualität zu verlieren
  • Mensch-KI-Zusammenarbeit neu denken, um Innovation und Effizienz gleichzeitig zu fördern


Für mich persönlich war die SHAPE Masterclass ein Beweis dafür, dass wir diese Technologie nur verstehen, wenn wir sie selbst bauen, testen und anpassen. Der Weg von einer Idee zu einem funktionierenden Agenten ist kein Hexenwerk – aber er erfordert Neugier, Co-Creation und die Bereitschaft, alte Prozesse zu hinterfragen.