Ausblick: Herausforderungen und Risiken der KI-Nutzung
In einer Zeit, in der Künstliche Intelligenz (KI) in Bereichen wie autonomem Fahren, Bildbearbeitung und der Analyse medizinischer Daten an Bedeutung gewinnt, äußern Wissenschaftler Bedenken hinsichtlich eines unreflektierten Einsatzes dieser Technologien. Die Möglichkeiten, die KI bietet, scheinen nahezu grenzenlos zu sein, doch Experten warnen vor den potenziellen Gefahren, die mit einem unkritischen Vertrauen in diese Systeme einhergehen.
Aktueller Stand der KI-Anwendungen
Maximilian Kiener, vom Institut für Ethik in der Technologie an der Technischen Universität Hamburg, betont:
„Die KI kann rechnen, aber entscheiden muss der Mensch.“
In vielen Lebensbereichen, sei es bei Karriereentscheidungen oder in therapeutischen Kontexten, vertrauen Nutzer oft auf die vermeintlich richtigen Antworten, die Künstliche Intelligenz liefert. Kiener warnt jedoch, dass die Menschlichkeit, die diesen Technologien zugeschrieben wird, eine gefährliche Illusion darstellt. Er erklärt weiter:
„Was gar nicht geht, sind Wertsetzungen. Welchen Karriereweg soll ich verfolgen? Anwalt werden, Ärztin werden? Da gibt es nicht die eine Antwort. Das ist auch keine Rechenaufgabe.“
Hintergrund: Die Illusion der Menschlichkeit
Die Herausforderungen, die mit der Nutzung von KI verbunden sind, sind vielfältig. Kiener sieht in einigen neuen KI-Anwendungen keine echte Innovation. Er äußert sich kritisch zu Phänomenen wie Deepfakes und sagt:
„Dinge, die nur neu sind, sind keine Innovation. Ich tue mich beispielsweise sehr schwer, Deepfake-Bilder von Kindern, die vielleicht auch sexualisiert dargestellt werden, als Innovation zu erkennen.“
Ethik wird von Kiener nicht als Hemmnis, sondern als notwendige Voraussetzung für die sinnvolle Entwicklung von KI betrachtet. Er plädiert dafür, dass Mensch und Maschine von Anfang an zusammenarbeiten, um gemeinsam Lösungen zu finden.
Risiken und Herausforderungen für die Gesellschaft
Matthias Uhl, Professor für Wirtschafts- und Sozialethik an der Universität Hohenheim, hat einen sokratischen Chatbot entwickelt, der sich von herkömmlichen KI-Systemen unterscheidet.
„Die sokratische KI unterscheidet sich von der konventionellen KI dadurch, dass sie Fragen stellt und mir hilft, meine eigene Lösung auf die Probleme zu finden, anstatt mir direkte Antworten zu geben.“
In Experimenten zeigte sich, dass dieser Chatbot den Nutzern helfen konnte, moralisch ausgewogenere Entscheidungen zu treffen. Dennoch stellte das Team auch fest, dass die Nutzer oft den direkten Ratschlag bevorzugen. Uhl erklärt:
„Die rückfragende KI wird weniger gerne gewählt. Wenn man den Leuten die Wahl lässt, dann wollen sie lieber direkten Ratschlag bekommen.“
Um die Akzeptanz zu erhöhen, soll ein ansprechendes Design entwickelt werden.
Im medizinischen Bereich sind Fachleute oft skeptisch gegenüber KI-Systemen, obwohl diese in der Lage sind, Röntgenbilder schnell und zuverlässig auszuwerten. Eine Studie zeigt, dass Experten, die viel Wissen haben, KI-Analysen oft unterschätzen, auch wenn diese genauer sind. Uhl sieht Potenzial in einer neuen KI, die ihre Unsicherheit offenlegt, um das Vertrauen der Nutzer zu stärken:
„Wenn das System seine Unsicherheit offenlegt, dann kann es auch dazu führen, dass der Empfänger dem Rat stärker vertraut, wenn es beispielsweise sagt, ich bin mir bei dieser Klassifikation zu 90 Prozent sicher.“
Bereits im kommenden Jahr sollen Fachleute aus der Medizin das neue KI-System testen können.
Quellen: tagesschau
