Die KI-Herausforderung, die die meisten Unternehmen nicht haben

Vor einigen Monaten nahm ich an einem GC AI Summit teil, der von der Harvard Law School veranstaltet wurde. Wie erwartet gab es viele Diskussionen über KI-Tools, Governance-Rahmenwerke, aufkommende Vorschriften und die Zukunft des juristischen Berufs.

Ein Diskussionsthema stach über die anderen hinaus: Die meisten Organisationen müssen nur darüber nachdenken, wie sie KI einsetzen, während wir darüber nachdenken müssen, wie wir KI einsetzen und wie wir KI entwickeln.

Die meisten Unternehmen sind „KI-Einführer“, das heißt, sie nutzen KI intern, um die Produktivität zu steigern, Arbeitsabläufe zu automatisieren, Entscheidungen zu verbessern und operative Effizienz zu schaffen. Ihre Herausforderung besteht darin, KI verantwortungsvoll einzuführen und gleichzeitig Risiken zu managen.

Technologieunternehmen stehen zunehmend vor einer anderen Herausforderung, da sie auch „KI-Entwickler“ sind, was bedeutet, dass sie Produkte entwickeln, die Kunden dabei helfen, KI zu nutzen und gleichzeitig ihre eigenen regulatorischen, Sicherheits- und Governance-Anforderungen erfüllen.

Wir befinden uns an der Schnittstelle zwischen dem Einsatz von KI und der Entwicklung von KI. Wir setzen KI in unserer eigenen Organisation ein und helfen gleichzeitig Kunden, die sich schnell entwickelnde KI-Landschaft zu verstehen, zu steuern, zu sichern und einzuhalten. Das schafft eine einzigartige Herausforderung, aber auch eine einzigartige Chance.

Die Rechtsabteilung steht im Mittelpunkt bei der Bewältigung beider Herausforderungen

Traditionell waren die Rechtsabteilungen dafür verantwortlich, zu verstehen, wie externe Einflüsse das Unternehmen steuern:

• Regierungen führen neue Vorschriften ein
• Branchenstandards entwickeln sich weiter
• Die Erwartungen der Kunden ändern sich

Die Aufgabe der Rechtsabteilung besteht darin, diese Kräfte zu interpretieren, Risiken zu bewerten und dem Unternehmen zu helfen, sie erfolgreich zu bewältigen. KI ändert diese Verantwortung nicht, sie erweitert sie.

Heute wird von Legal zunehmend erwartet, bei Fragen zu helfen, die nicht rein rechtlicher Natur sind:

• Wie sollten wir KI intern steuern?
• Welche Risiken sind akzeptabel?
• Welche Schutzvorkehrungen sollten vorhanden sein?
• Wie balancieren wir Innovation und Verantwortlichkeit?
• Wie erhalten wir das Vertrauen von Kunden, Mitarbeitern, Regulierungsbehörden und Investoren?

Diese Fragen landen oft auf dem Schreibtisch eines General Counsel, weil Legal Einblick in die gesamte Organisation hat. Im Gegensatz zu den meisten Funktionen arbeiten wir gleichzeitig über Abteilungen, Produkte, Kunden, Regulierungsbehörden und Märkte hinweg.

Der Gipfel bestätigte etwas, das ich schon länger mit meinem Team beobachte und durchsetze: Die Rolle der Rechtsabteilung entwickelt sich vom Berater zum Koordinator. Nicht, weil Anwälte plötzlich jede Entscheidung treffen, sondern weil jemand alle beweglichen Teile verbinden muss.

Drei Fragen, die den Erfolg bestimmen werden

Eines der nützlichsten Frameworks des Gipfels war, dass Organisationen, die sich mit KI befassen, letztlich drei Fragen beantworten müssen.

1. Wie messen wir die Vorteile von KI?

Die meisten Diskussionen über KI beginnen mit Begeisterung für das Mögliche. Viel weniger Diskussionen konzentrieren sich darauf, ob wir tatsächlich Wert schaffen:

• Reduzieren wir die Zeit für wiederholte Arbeiten?
• Verbessern wir die Entscheidungsfindung?
• Unterstützen wir die Mitarbeiter dabei, sich auf wertvollere Tätigkeiten zu konzentrieren?
• Schaffen wir bessere Ergebnisse für Kunden?

Die Organisationen mit dem größten Einfluss setzen KI nicht einfach ein, weil es alle tun. Sie identifizieren konkrete Geschäftsprobleme und messen, ob KI bei deren Lösung hilft. Die reine Einführung der Technologie ist nicht das Ziel. Geschäftsergebnisse sind wichtiger.

2. Wie denken wir über Effizienz und Qualität?

Historisch haben Organisationen Geschwindigkeit, Qualität und Kosten als konkurrierende Kräfte betrachtet:

• Schneller vorankommen und die Qualität leidet darunter
• Qualität verbessern und Kostensteigerung
• Kosten senken und Verlangsamung

KI hat das Potenzial, diese Gleichung neu zu gestalten, aber nur, wenn Organisationen bewusst damit umgehen.

Der Gipfel kehrte immer wieder zu einer Frage zurück, die viele Organisationen noch zu beantworten versuchen: Wie messen wir Qualität in einer von KI unterstützten Welt? Effizienz ist relativ leicht zu messen, aber Qualität ist viel schwieriger. Für Rechtsteams bedeutet dies, zu fragen, ob KI uns hilft, bessere Entscheidungen zu treffen, Probleme früher zu erkennen, Konsistenz zu verbessern und bessere Ergebnisse zu erzielen, nicht nur Aufgaben schneller zu erledigen. Die Zukunft gehört nicht den Organisationen, die nur Effizienz maximieren, sondern denen, die sowohl Effizienz als auch Qualität gleichzeitig verbessern.

3. Wie beeinflusst KI das Vertrauen?

Dies könnte die wichtigste Frage von allen sein. Wenn Mitarbeiter der KI nicht vertrauen, werden sie sie nicht nutzen. Wenn Kunden nicht vertrauen, wie Sie KI einsetzen, werden sie keine Geschäfte mit Ihnen machen. Wenn Regulierungsbehörden Ihrer Governance nicht vertrauen, werden sie Governance für Sie schaffen. Wenn Vorstände den Ergebnissen nicht vertrauen, werden sie weiterhin Antworten vom Management suchen.

Ein Redner fasste es einfach zusammen: „Der Vorstand vertraut der KI nicht. Sie vertrauen Ihnen.“ Technologie kann Empfehlungen generieren. Technologie kann Arbeitsabläufe beschleunigen. Technologie kann Erkenntnisse liefern. Aber Verantwortung bleibt menschlich. Vertrauen bleibt menschlich. Führung bleibt menschlich. Je mächtiger KI wird, desto wertvoller wird Vertrauen.

Was ich von Führungskräften bei Microsoft, Workday und darüber hinaus gehört habe

Obwohl der Gipfel eine Reihe von Sitzungen umfasste, von Harvard-Professoren über interne Rechtsleiter bis hin zu Führungskräften der Rechtsabteilung, tauchte ein konsistentes Themenset aus sehr unterschiedlichen Perspektiven auf.

Eine Sitzung geleitet von Bjarne Tellman (FjordStream Advisors) stellte die Herausforderung als eine der „strukturierten Geschwindigkeit“ dar. Sein Punkt war, dass Organisationen nicht einfach KI-Tools übernehmen, sondern Systeme aufbauen, die Intelligenz sicher skalieren müssen. Seiner Ansicht nach besteht die Rolle der Rechtsabteilung nicht darin, Innovationen zu verlangsamen, sondern Governance- und Datenstrukturen zu schaffen, die Geschwindigkeit ohne Fragilität ermöglichen. Er beschrieb dies als Grundlage für ein „KI-Fabrik“-Modell: ein sich selbst verstärkendes System, bei dem Daten, Governance und Lernen die Ergebnisse im Laufe der Zeit kontinuierlich verbessern.

Von Microsofts Führung in Corporate, External, and Legal Affairs (CELA) war die Botschaft operativer und richtungsweisender. Die Organisation gestaltet Legal aktiv als beratende und entwickelnde Funktion um, die interne KI-Tools, regulatorische Intelligenzsysteme und agentenbasierte Workflows entwickelt, die manuelle Recherche reduzieren und den Fokus auf wertvollere regulatorische und politische Engagements verlagern. Die durchgehende Botschaft war klar: Rechtsteams sind nicht mehr nur Technologieverbraucher; sie werden zu deren Entwicklern.

Für Workday, drehte sich die Diskussion darum, wie Organisationen KI verantwortungsvoll im großen Maßstab operationalisieren. Das beschriebene Modell bewegte sich von Prinzipien zu Praktiken zu Menschen, unterstützt von einem strukturierten Governance-System, bei dem Recht, Datenschutz und Technik gemeinsam die KI-Entwicklung überwachen. Ein wiederkehrendes Thema war, dass der erfolgreiche Einsatz weniger von einzelnen Werkzeugen abhängt, sondern davon, ob Organisationen Intake-, Risikoklassifizierungs- und Verantwortlichkeitssysteme entwerfen können, die eine konsistente und sichere Nutzung von KI im gesamten Unternehmen ermöglichen.

In allen Sitzungen, einschließlich Beispielen großer Rechts- und Betriebsteams von Unternehmen, kehrte das Gespräch immer wieder zu einigen praktischen Herausforderungen zurück: wie man Unternehmensdaten so strukturiert, dass KI-Systeme sie tatsächlich nutzen können, wie man von Akten- und Vertrags-“Schubladen” zu integrierten Wissenssystemen übergeht und wie man Qualitätssicherung in KI-gestützte Arbeitsabläufe einbettet, damit die Ergebnisse in großem Maßstab vertrauenswürdig sind.

Das Paradoxon des Deployers-Entwicklers

Für Unternehmen wie unseres, die das Deploy-Developer-Paradoxon navigieren, werden diese Fragen noch wichtiger, da wir sie aus zwei Perspektiven gleichzeitig beantworten. Als AI deployer müssen wir verstehen, wie sich Gesetze, Vorschriften und öffentliche Erwartungen auf unsere eigene Organisation auswirken. Als AI developer müssen wir verstehen, wie diese Entwicklungen unsere Kunden beeinflussen. Das bedeutet, dass wir ständig in zwei Richtungen gleichzeitig schauen:

1. Nach innen. Wie nutzen wir KI verantwortungsvoll? Wie steuern wir sie? Wie managen wir Risiken und fördern gleichzeitig Innovation?
2. Nach außen. Wie helfen wir Kunden, diese Fragen zu beantworten? Welche Fähigkeiten benötigen sie? Welche Kontrollen sind wichtig? Welche Nachweise brauchen sie, um Compliance, Sicherheit und verantwortungsvolle Governance zu belegen?

Je besser wir eine Seite verstehen, desto besser sind wir positioniert, die andere zu lösen. Das schafft einen Vorteil, den viele Organisationen nicht haben: Wir beobachten diese Herausforderungen nicht nur, wir leben sie.

In vielerlei Hinsicht versetzt uns das in eine einzigartige Position, um zu gestalten, wie Organisationen über AI Governance, Risikomanagement und Vertrauen denken.

Geschwindigkeit erfordert Struktur

Ein weiteres Thema, das sich während des Gipfels immer wieder zeigte, war die Spannung zwischen Innovation und Governance. Organisationen weltweit eilen zur Einführung von KI. Einige gehen vorsichtig vor, andere unüberlegt. Die meisten versuchen, das richtige Gleichgewicht zu finden.

Ein Sprecher beschrieb das Ziel als Schaffung von „strukturierter Geschwindigkeit“. Ich fand diesen Ausdruck besonders überzeugend. Unternehmen müssen schnell handeln, weil Kunden Innovation erwarten, und Wettbewerbsvorteile warten selten auf perfekte Sicherheit. Gleichzeitig birgt Geschwindigkeit ohne Struktur Risiken.

Ein während des Gipfels geteilter Fall betraf ein KI-System, das Produktlieferungen autonom umleitete, um wetterbedingte Störungen zu vermeiden. Das System war auf Geschwindigkeit und Effizienz optimiert, berücksichtigte jedoch keine regulatorischen Beschränkungen. Es berücksichtigte nicht, ob die Häfen, zu denen die Lieferungen umgeleitet wurden, diese tatsächlich annehmen konnten. Das Ergebnis war ein kostspieliges operatives Problem, das niemand beabsichtigte zu verursachen. Die Lehre war nicht, dass die KI versagte. Sondern dass die Governance versagte.

Technologie kann schneller voranschreiten, als Organisationen denken können, wenn keine geeigneten Leitplanken vorhanden sind. Das Ziel ist nicht, Innovation zu verlangsamen, sondern eine Struktur zu schaffen, die Innovation sicher skalieren lässt.

Ein weiterer Redner verwendete die deutsche Autobahn als Metapher. Der Grund, warum große Teile der Autobahn ohne Geschwindigkeitsbegrenzung betrieben werden können, liegt nicht daran, dass es keine Regeln gibt. Es liegt daran, dass eine starke Kultur der Disziplin, Verantwortlichkeit und Durchsetzung der bestehenden Regeln herrscht. Wenn es regnet, wird eine Geschwindigkeitsbegrenzung durchgesetzt, und Verstöße gegen diese Begrenzung werden nicht toleriert. „Strukturierte Geschwindigkeit“ funktioniert auf der Autobahn, weil Sicherheitsmaßnahmen verstanden und respektiert werden.

Das gleiche Prinzip gilt für KI. Wenn Organisationen keine sicheren, genehmigten Wege für Innovation schaffen, finden Mitarbeiter ihre eigenen Wege. Die Antwort ist keine Einschränkung um der Einschränkung willen. Es geht darum, Rahmen zu schaffen, die es Menschen ermöglichen, schnell, verantwortungsbewusst und selbstbewusst zu handeln.

Die Zukunft bedeutet nicht, Fachkräfte zu ersetzen

Wann immer neue Technologie aufkommt, folgen schnell Vorhersagen darüber, welche Berufe verschwinden werden. Der juristische Beruf, wie viele andere Berufe, hat sie schon unzählige Male gehört:

• Das Internet würde alles verändern
• Digitale Forschung würde alles verändern
• Die Automatisierung des Vertrags-Workflows würde alles verändern

Diese Vorhersagen lagen nicht falsch. Der Beruf hat sich verändert, wurde aber nicht ersetzt.

Ein Sprecher machte eine Beobachtung, die mir im Gedächtnis blieb: Fachleute gehen oft davon aus, dass neue Technologie ihnen erlaubt, das, was sie bereits tun, schneller und günstiger zu erledigen. Stattdessen verändert Technologie meist, was es überhaupt bedeutet, ein Fachmann zu sein.

KI wird wahrscheinlich dem gleichen Muster folgen. Die wertvollste Arbeit von Anwälten bestand nie darin, Informationen zu sammeln. Unsere wertvollsten Fähigkeiten sind Urteilsvermögen, Kontextverständnis, das Ausbalancieren konkurrierender Interessen, Vertrauensaufbau und Entscheidungen unter Unsicherheit.

Diese Verantwortlichkeiten bleiben zutiefst menschlich. Was sich ändert, ist, wie wir unsere Zeit verbringen. Die erfolgreichsten Fachleute (juristisch oder nicht) werden diejenigen sein, die lernen, Technologie, Urteilsvermögen und Fachwissen effektiver zu kombinieren als alle anderen.

Abschließende Gedanken

Meine wichtigste Erkenntnis vom Gipfel ist, dass Organisationen jetzt die Chance haben, mitzugestalten, wie eine verantwortungsvolle Einführung von KI aussieht, bevor es jemand anderes für sie tut. Für Rechtsteams bedeutet das, Rahmenwerke zu schaffen, die Innovation ermöglichen. Für Technologieunternehmen bedeutet es, die einzigartige Position anzuerkennen, die wir als sowohl Anwender als auch Entwickler von KI einnehmen. Für uns alle bedeutet es zu verstehen, dass die Zukunft davon bestimmt wird, wie bedacht wir KI einsetzen. Die Unternehmen, die das richtig machen, werden sich nicht nur an die Zukunft anpassen. Sie werden sie mitgestalten.