Juni 2024
Vertrauen ist der Schlüssel zur Ausschöpfung des vollen Potenzials der Generativen AI. Eine BearingPoint-Umfrage aus dem Jahr 2023 zeigt jedoch ein großes Misstrauen der Befragten gegenüber GenAI-Tools. In diesem Whitepaper stellen wir einen innovativen Ansatz vor, um das Vertrauen in die Wahrnehmung von Generativer AI zu erhöhen, indem ethische Prinzipien in ihre Nutzung integriert werden. Wir konzentrieren uns dabei darauf, wie Unternehmen das Vertrauen der Nutzerinnen und Nutzer durch die Integration von technologischen und organisatorischen Komponenten gewinnen können.
Artificial Intelligence (AI) hält Einzug in alle Bereiche des Privat- und Geschäftslebens, wobei GenAI weithin als treibende Kraft für den Aufstieg der AI-Technologie gilt. Obwohl GenAI die Art und Weise, wie Inhalte erstellt werden, potenziell drastisch verändern kann, wirft sie auch Bedenken in Bezug auf Datenschutz, Urheberrecht und Vorurteile auf.
Bedeutung von GenAI
- GenAI ist eine Unterkategorie der KI, die mithilfe generativer Modelle Texte, Bilder oder andere Medien erzeugen kann.
- GenAI-Modelle lernen die Muster und die Struktur der eingegebenen Trainingsdaten und erzeugen neue Daten mit ähnlichen Eigenschaften.
- Bei den erzeugten Inhalten kann es sich um Audio, Code, Bilder, Text, Simulationen oder Videos handeln.
- Im Gegensatz zu anderen Formen der künstlichen Intelligenz besteht das Alleinstellungsmerkmal von GenAI in der Schaffung von etwas Neuem.
Trotz des explosionsartigen Wachstums und der medialen Aufmerksamkeit zeigt unsere Umfrage aus dem Jahr 2023, Ethics in GenAI, dass der Hype um GenAI und ihre Anwendungen eher theoretisch als praktisch ist. Ein Grund für das Fehlen von GenAI in der Praxis ist die verzerrte Wahrnehmung der Technologie und der damit verbundene Mangel an Vertrauenswürdigkeit.
Vertrauen ist jedoch die Grundlage für zwischenmenschliche und Mensch-Maschine-Interaktionen. Für Unternehmen, die Zugang zu GenAI-Tools anbieten, ist die Schaffung einer vertrauenswürdigen Umgebung für die Nutzung von GenAI eines der Schlüsselelemente, um das volle Potenzial solcher Anwendungen auszuschöpfen.
In diesem Whitepaper beleuchten wir nun einen innovativen Ansatz, um das Vertrauen in die Wahrnehmung von GenAI zu erhöhen, indem wir ethische Grundsätze in deren Nutzung integrieren.
Unser Whitepaper, kurz gefasst:
-
Vertrauen in GenAI lässt sich aufbauen, indem man eine Anwendung sicherstellt, die auf ethischen Standards basiert.
-
Das Zusammenspiel von zwei separaten Hebeln ist entscheidend - Vertrauen in die KI-Technologie und Vertrauen auf organisatorischer Ebene.
-
Während die technologische Komponente den rechtmäßigen, ethischen und robusten Charakter der Technologie sicherstellt, ermöglicht die organisatorische Komponente die notwendigen Kompetenzen und Unterstützung.
Die Entwicklung von Vertrauen in GenAI kann durch die Operationalisierung moralischer Werte wie menschliche Autonomie, Fairness, Verlustvermeidung und Erklärbarkeit erleichtert werden. Dabei ist das Zusammenspiel der beiden separaten Hebel - Vertrauen in die KI-Technologie und Vertrauen auf der organisatorischen Ebene - entscheidend, denn nur dieses Zusammenspiel kann das notwendige Vertrauen schaffen, um die Mensch-Maschine-Interaktion mit GenAI-Werkzeugen zu fördern.
Die technologische Komponente
Gemäß den von der Europäischen Kommission aufgestellten Ethik-Leitlinien für vertrauenswürdige KI sollte ein KI-System während seines gesamten Lebenszyklus rechtmäßig, ethisch einwandfrei und robust sein. Auf der technologischen Ebene kann dies erreicht werden durch:
-
Objektivität: Die KI-Technologie sollte frei von Vorurteilen, Verzerrungen und Diskriminierungen sein, die die Rechte, Werte und Interessen von Nutzergruppen verletzen könnten.
-
Transparenz: Die verwendeten Modelle sollten für Entwickler, Nutzerinnen und Nutzer und andere Beteiligte nachvollziehbar, erklärbar und verständlich sein.
-
Rechenschaftspflicht: Die Verantwortlichkeit von GenAI-Tools muss im Vorfeld geprüft werden und es müssen Mechanismen implementiert werden, um Fehler zu diagnostizieren und zu vermeiden (Human-in-the-Loop).
-
Sicherheit: KI-Algorithmen sollten robust, zuverlässig und resistent gegen interne und externe Fehler, Angriffe und Störungen sein.
-
Menschenzentriertheit: Die KI-Technologie muss so eingesetzt werden, dass Entscheidungen mit dem Menschen im Mittelpunkt getroffen werden. Der erzeugte Output muss ständig auf seine menschliche Dimension hin überprüft werden.
Die organisatorische Komponente
GenAI wird als zuverlässiger wahrgenommen, wenn die Mitglieder einer Organisation über die notwendigen Kompetenzen im Umgang mit der Technologie verfügen und gleichzeitig eine unterstützende Unternehmenskultur zur Entwicklung von Fähigkeiten geboten wird, einschließlich:
-
Technische und soziale Kompetenzen müssen gefördert werden, damit die Mitarbeiterinnen und Mitarbeiter Sicherheit im Umgang mit GenAI gewinnen, einschließlich ethischer und Compliance-bezogener Kompetenzen.
-
Eine Unternehmenskultur, die den Mitarbeiterinnen und Mitarbeitern den Raum bietet, sich intensiv mit GenAI zu beschäftigen, um die notwendigen Fähigkeiten und Erfahrungen für einen verantwortungsvollen Umgang mit GenAI zu erwerben.
-
Eine klare Strategie und Ziele, die mit GenAI erreicht werden sollen, müssen von der Unternehmensleitung gefördert werden.
