Meta schlägt neue Branchenprinzipien für die Entwicklung Künstlicher Intelligenz vor

Meta schlägt neue Branchenprinzipien für die Entwicklung Künstlicher Intelligenz vor

Die Risiken im Zusammenhang mit der Weiterentwicklung von Künstlicher Intelligenz (KI) nehmen zu, je schneller sich KI-Modelle entwickeln und je mehr Entwickler in das Feld der KI einsteigen. Es besteht die Gefahr des Missbrauchs, der Fehlinformationen und noch Schlimmerem – KI-Systeme könnten über das menschliche Verständnis hinausgehen und weiter gehen als von irgendjemandem erwartet.

Das Ausmaß der Sorge in dieser Hinsicht kann sich erheblich verschieben. Heute hat Meta-Präsident für globale Angelegenheiten Nick Clegg einen Meinungsbeitrag in der Financial Times veröffentlicht, in dem er zu einer größeren Zusammenarbeit und Transparenz in der KI-Entwicklung aufruft, um diese potenziellen Probleme besser zu bewältigen.

Nick Clegg’s Beitrag

Laut Clegg sind die meisten dystopischen Warnungen über KI in Wirklichkeit ein Sprung in der Technologie, oder sogar mehrere Sprünge. Unterschiede bestehen zwischen den heutigen Chatbot-Anwendungen großer Sprachmodelle und den theoretisch machbaren, superskalierten Frontier-Modellen mit Superintelligenz im Science-Fiction-Stil. Doch wir befinden uns immer noch am Fuß des Berges und debattieren über die Gefahren, die wir am Gipfel finden könnten. Wenn und wenn diese Fortschritte realistischer werden, könnte dies eine andere Reaktion erfordern. Aber sowohl die Technologie als auch die Rahmenbedingungen haben noch Zeit, sich zu entwickeln.

Im Wesentlichen argumentiert Clegg, dass wir jetzt, in den frühen Stadien der KI-Entwicklung, umfassendere Regeln aufstellen müssen, um mögliche Schäden später zu mildern. Clegg hat einen neuen Satz von vereinbarten Prinzipien für die KI-Entwicklung vorgeschlagen, die auf einer größeren Transparenz und Zusammenarbeit aller KI-Projekte basieren.

Transparenz und Zusammenarbeit

Der Schwerpunkt liegt auf Transparenz und der Bereitstellung von Einblicken in die Arbeitsweise von KI-Projekten.

Bei Meta wurden kürzlich 22 „Systemkarten“ für Facebook und Instagram veröffentlicht, die den Menschen Einblicke in die KI hinter der Rangfolge und Empfehlung von Inhalten geben, ohne dass dafür tiefgehende technische Kenntnisse erforderlich sind.

Clegg schlägt vor, dass alle KI-Projekte ähnliche Einblicke teilen sollten, was gegen die Branchenstandards des Geheimhaltungsgebotes in der Entwicklung verstößt.

Meta fordert auch Entwickler auf, sich dem „Partnership on AI“-Projekt anzuschließen, dessen Gründungsmitglied Meta neben Amazon, Google, Microsoft und IBM ist.

Die Idee besteht darin, dass diese führenden Unternehmen in der KI-Entwicklung durch Zusammenarbeit und Austausch von Informationen bessere Regeln und Ansätze für KI-Fortschritte etablieren können, um mögliche Schäden zu verhindern, bevor sie die Öffentlichkeit erreichen.

Weitere Vorschläge

Clegg schlägt außerdem zusätzliche Stresstests für alle KI-Systeme vor, um potenzielle Bedenken besser zu erkennen, sowie die Veröffentlichung sämtlicher KI-Entwicklungsarbeiten als Open Source, damit andere mögliche Fehler aufzeigen können.

Ein wichtiger Aspekt ist die Öffnung für externe Entwickler und Forscher. Sie können Probleme identifizieren, für deren Aufdeckung Teams, die in Unternehmenssilos stecken, viel länger bräuchten. Bei der Prüfung von Metas großem Sprachmodell BlenderBot 2 stellten Forscher fest, dass es durch Fehlinformationen beeinflusst werden kann. Als Reaktion darauf wurde BlenderBot 3 widerstandsfähiger dagegen entwickelt.

Dieser Schwerpunkt auf Zusammenarbeit und Transparenz ist entscheidend, wenn wir in die nächsten Phasen der KI-Werkzeuge vorstoßen. Allerdings bezweifle ich auch, dass eine branchenweite Partnerschaft zur vollständigen Transparenz bei KI-Projekten etabliert werden kann.

Es werden Projekte in vielen Ländern durchgeführt, von denen viele weniger offen für Zusammenarbeit und Informationsaustausch sein werden. Gleichzeitig werden konkurrierende KI-Entwickler daran interessiert sein, ihre Geheimnisse zu wahren, um einen Wettbewerbsvorteil zu erlangen. In diesem Zusammenhang macht es Sinn, dass Meta ein breiteres Verständnis etablieren möchte, um mit verwandten Projekten Schritt zu halten. Es könnte jedoch für kleinere Projekte möglicherweise nicht so wertvoll sein, dies zu tun.

Insbesondere angesichts der Geschichte von Meta, Ideen zu kopieren.

Elon Musk, der in letzter Zeit zu Mark Zuckerbergs Erzfeind Nummer eins geworden ist, entwickelt ebenfalls seine eigenen KI-Modelle, von denen er behauptet, dass sie frei von politischer Voreingenommenheit sein werden. Es ist unwahrscheinlich, dass er an einer Zusammenarbeit mit diesen Prinzipien interessiert ist.

Aber der Ausgangspunkt ist wichtig: Bei der Entwicklung von Künstlicher Intelligenz gibt es große Risiken, die durch umfassendere Zusammenarbeit verringert werden können, um potenzielle Schwachstellen und Probleme zu erkennen, bevor sie kritisch werden.

Logischerweise ergibt dies Sinn. Aber in der Praxis wird es auf mehreren Ebenen schwer zu verkaufen sein.

Sie können Nick Cleggs Meinungsbeitrag zur KI-Regulierung hier lesen.


Quelle