KI-Experten warnen: Gefahren der Künstlichen Intelligenz werden verschwiegen

In einem offenen Brief warnen aktuelle und ehemalige Mitarbeiter von OpenAI sowie weitere KI-Experten vor den Gefahren der Künstlichen Intelligenz (KI) und der mangelnden Transparenz in der Branche. Sie fordern einen umfassenden Schutz für Whistleblower und eine Unternehmenskultur, die offene Kritik zulässt.

Dringende Warnung vor KI-Gefahren

Elf Mitarbeiter von OpenAI, ein Mitarbeiter von DeepMind und ein ehemaliger Mitarbeiter der KI-Abteilung von Google haben einen offenen Brief unterzeichnet, der auf die Risiken von Künstlicher Intelligenz hinweist. Der Brief wird von prominenten KI-Forschern wie Geoffrey Hinton, Yoshua Bengio und Stuart Russell unterstützt. Der Brief betont, dass KI-Systeme bestehende Ungleichheiten verschärfen und zu Manipulation und Desinformation beitragen könnten. Auch die Gefahr eines möglichen Kontrollverlusts über autonome KI-Systeme mit schwerwiegenden Folgen für die Menschheit wird angesprochen. Die Autoren betonen jedoch, dass diese Gefahren durch wissenschaftliche, politische und gesellschaftliche Maßnahmen gemindert werden können.

Mangelnde Aufsicht und Transparenz

Die Autoren des Briefes kritisieren, dass KI-Unternehmen starke finanzielle Anreize haben, sich einer effektiven Aufsicht zu entziehen. Die Unternehmen verfügen über wichtige Informationen zu den Fähigkeiten und Risiken ihrer Systeme, teilen diese aber kaum mit Regierungen oder der Öffentlichkeit. Transparenz basiert derzeit ausschließlich auf freiwilligen Maßnahmen, die nicht verlässlich sind.

Abschaffung von Knebelverträgen gefordert

Die Autoren fordern KI-Unternehmen auf, keine Vereinbarungen zu treffen, die Kritik an KI-Risiken verbieten. Bereits bestehende Knebelverträge sollten aufgehoben werden. Darüber hinaus sollten Beschäftigte die Möglichkeit haben, Bedenken anonym an Aufsichtsbehörden und unabhängige Organisationen zu melden. Die Unternehmen sollen sich verpflichten, keine Repressalien gegen Beschäftigte zu ergreifen, die ihre Bedenken öffentlich machen.

Microsoft und fragwürdige Tests

Ein ehemaliger OpenAI-Mitarbeiter berichtet, dass Microsoft 2022 in Indien einen Testlauf einer neuen Version von Bing ohne die erforderliche Genehmigung durchgeführt hat. Dieser Test wurde mit einer frühen Version des KI-Modells GPT-4 durchgeführt, ohne das Deployment Safety Board zu informieren. Microsoft bestreitet diese Darstellung und betont, den Einsatz von GPT-4 ordnungsgemäß genehmigt zu haben. Dieser Vorfall zeigt die Notwendigkeit für strengere Sicherheitsprotokolle und Transparenz in der KI-Industrie.

Forderungen an die KI-Branche

Die Unterzeichner des Briefes fordern eine Unternehmenskultur, die offene Kritik fördert und öffentliche Diskussionen über KI-Risiken zulässt. Sie plädieren für einen stärkeren Fokus auf Sicherheit und die Schaffung von Mechanismen, die es Mitarbeitern ermöglichen, anonym Bedenken zu äußern. Nur durch transparente und verantwortungsvolle Praktiken kann den Risiken der Künstlichen Intelligenz angemessen begegnet werden.

Fragen und Antworten

Warum ist Transparenz in der KI-Branche so wichtig?
Transparenz ist entscheidend, um die Risiken der Künstlichen Intelligenz zu verstehen und zu mindern. Ohne ausreichende Informationen über die Fähigkeiten und Grenzen von KI-Systemen können potenzielle Gefahren nicht erkannt und angegangen werden. Transparenz ermöglicht es Regierungen und der Zivilgesellschaft, fundierte Entscheidungen zu treffen und geeignete Maßnahmen zum Schutz der Öffentlichkeit zu ergreifen. Sie fördert auch das Vertrauen in KI-Technologien und deren verantwortungsvollen Einsatz.

Wie können Whistleblower in der KI-Branche besser geschützt werden?
Whistleblower in der KI-Industrie benötigen einen umfassenden rechtlichen Schutz, der über die Meldung illegaler Aktivitäten hinausgeht. Es sollten Mechanismen geschaffen werden, die es den Beschäftigten ermöglichen, ihre Bedenken anonym an unabhängige Aufsichtsbehörden heranzutragen. Unternehmen sollten sich verpflichten, keine Vergeltungsmaßnahmen gegen Whistleblower zu ergreifen. Bestehende Knebelverträge, die Kritik an KI-Risiken verbieten, sollten aufgehoben werden. Eine offene und transparente Unternehmenskultur, die Kritik und öffentliche Debatten fördert, ist ebenfalls unerlässlich.

Welche Risiken birgt Künstliche Intelligenz?
Künstliche Intelligenz birgt verschiedene Gefahren, darunter die Verschärfung bestehender Ungleichheiten, Manipulation und Desinformation sowie einen möglichen Kontrollverlust über autonome Systeme. Ein solcher Kontrollverlust könnte in Zukunft schwerwiegende Folgen für die Menschheit haben. Zu den Risiken gehören auch Datenschutzverletzungen, Diskriminierung und die Beeinflussung demokratischer Prozesse. Um diesen Gefahren zu begegnen, sind wissenschaftliche, politische und gesellschaftliche Maßnahmen erforderlich.

Wie können Unternehmen sicherstellen, dass ihre KI-Systeme verantwortungsvoll eingesetzt werden?
Unternehmen können sicherstellen, dass ihre KI-Systeme verantwortungsvoll eingesetzt werden, indem sie strenge Sicherheitsprotokolle einhalten und regelmäßige Audits durchführen. Transparenz und offene Kommunikation über die Fähigkeiten und Risiken von KI-Systemen sind entscheidend. Die Unternehmen sollten auch eine Kultur der offenen Kritik fördern und Mechanismen schaffen, die es den Beschäftigten ermöglichen, anonym Bedenken zu äußern. Eine enge Zusammenarbeit mit Regierungen und der Zivilgesellschaft ist ebenfalls wichtig, um geeignete Maßnahmen zum Schutz der Öffentlichkeit zu entwickeln.

Welche Rolle spielt die Politik bei der Regulierung von KI?
Die Politik spielt eine zentrale Rolle bei der Regulierung von KI. Regierungen müssen geeignete Rahmenbedingungen schaffen, um die Risiken von KI-Systemen zu mindern und ihren verantwortungsvollen Einsatz zu fördern. Dazu gehören die Entwicklung von Gesetzen und Richtlinien, die Transparenz und Sicherheitsstandards vorschreiben, sowie die Einrichtung unabhängiger Aufsichtsbehörden. Darüber hinaus sollten Regierungen den Informationsaustausch und die Zusammenarbeit zwischen Unternehmen, Wissenschaft und Zivilgesellschaft fördern.

Fazit

Die Warnungen der KI-Experten unterstreichen die Notwendigkeit von Transparenz und verantwortungsvollem Umgang mit Künstlicher Intelligenz. Unternehmen und Regierungen müssen gemeinsam Maßnahmen ergreifen, um die Risiken zu mindern und das Vertrauen in KI-Technologien zu stärken. Zukünftige Entwicklungen in der KI-Industrie sollten immer unter Berücksichtigung der ethischen und gesellschaftlichen Auswirkungen erfolgen.

Machen Sie mit! Abonnieren Sie den Mimikama-Newsletter und bleiben Sie auf dem Laufenden. Besuchen Sie auch unsere Online-Vorträge und Workshops, um mehr über den Umgang mit KI zu erfahren.

Quelle: derStandard