KI-Experten empfehlen erhebliche Investitionen in die Risikominderung von KI und strengere globale Vorschriften, um Missbrauch zu verhindern und die KI-Entwicklung sicher zu steuern.
Forscher haben vor den extremen Risiken gewarnt, die mit einer raschen Entwicklung einhergehenkünstliche Intelligenz(KI-)Technologien, aber es besteht kein Konsens darüber, wie mit diesen Gefahren umgegangen werden soll. In einem Policy Forum analysieren der weltweit führende KI-Experte Yoshua Bengio und seine Kollegen die Risiken der Weiterentwicklung von KI-Technologien.
Dazu gehören die sozialen und wirtschaftlichen Auswirkungen, böswillige Nutzungen und der potenzielle Verlust der menschlichen Kontrolle über autonome KI-Systeme. Sie schlagen proaktive und adaptive Governance-Maßnahmen vor, um diese Risiken zu mindern.
Die Autoren fordern große Technologieunternehmen und öffentliche Geldgeber auf, mehr zu investieren und mindestens ein Drittel ihres Budgets für die Bewertung und Minderung dieser Risiken bereitzustellen. Sie fordern außerdem, dass globale Rechtsinstitutionen und Regierungen Standards durchsetzen, die den Missbrauch von KI verhindern.
Aufruf zur verantwortungsvollen KI-Entwicklung
„Um die KI in Richtung positiver Ergebnisse und weg von der Katastrophe zu lenken, müssen wir uns neu orientieren. Es gibt einen verantwortungsvollen Weg – wenn wir die Weisheit haben, ihn zu gehen“, schreiben die Autoren.
Sie verdeutlichen den Wettlauf zwischen Technologieunternehmen weltweit um die Entwicklung allgemeiner KI-Systeme, die in vielen kritischen Bereichen den menschlichen Fähigkeiten entsprechen oder diese übertreffen können. Dieser rasche Fortschritt bringt jedoch auch gesellschaftliche Risiken mit sich, die soziale Ungerechtigkeiten verschärfen, die soziale Stabilität untergraben und groß angelegte Cyberkriminalität, automatisierte Kriegsführung, maßgeschneiderte Massenmanipulation und umfassende Überwachung ermöglichen könnten.
Zu den hervorgehobenen Bedenken gehört das Potenzial, die Kontrolle über autonome KI-Systeme zu verlieren, was menschliches Eingreifen wirkungslos machen würde.
Dringende Prioritäten für die KI-Forschung
Die KI-Experten argumentieren, dass die Menschheit nicht ausreichend auf den Umgang mit diesen potenziellen KI-Risiken vorbereitet sei. Sie stellen fest, dass im Vergleich zu den Bemühungen zur Verbesserung der KI-Fähigkeiten nur sehr wenige Ressourcen in die Gewährleistung der sicheren und ethischen Entwicklung und des Einsatzes dieser Technologien investiert werden. Um diese Lücke zu schließen, skizzieren die Autoren dringende Prioritäten für KI-Forschung, -Entwicklung und -Governance.
Weitere Informationen zu dieser Forschung finden Sie unter.
Referenz: „Managing extreme AI risks amid rapid progress“ von Yoshua Bengio, Geoffrey Hinton, Andrew Yao, Dawn Song, Pieter Abbeel, Trevor Darrell, Yuval Noah Harari, Ya-Qin Zhang, Lan Xue, Shai Shalev-Shwartz, Gillian Hadfield, Jeff Clune, Tegan Maharaj, Frank Hutter, Atılım Güneş Baydin, Sheila McIlraith, Qiqi Gao, Ashwin Acharya, David Krueger, Anca Dragan, Philip Torr, Stuart Russell, Daniel Kahneman, Jan Brauner und Sören Mindermann, 20. Mai 2024,Wissenschaft.
DOI: 10.1126/science.adn0117
Verpassen Sie keinen Durchbruch:
Folgen Sie uns weiterUndGoogle News.
Aktie.
