KI sucht die Eskalation

Das ist das Ergebnis einer Untersuchung von Forschern um Anka Reuel von der Stanford University. Die Experten haben KI-Modelle zu Rollenspielen in Konflikten mit realen Ländern aufgefordert. Ergebnis: Die KI bevorzugte eine militärische Eskalation und neigte zu unvorhersehbaren Entscheidungen. Bemerkenswert sei, dass die Basisversion von OpenAIs GPT-4 unberechenbares Verhalten zeigte und manchmal unsinnige Erklärungen lieferte, die an fiktive Erzählungen erinnerten, so Reuel.

Die Kriegsspiel-Simulationen, die darauf ausgelegt sind, die KI-Entscheidungsfindung in verschiedenen Konfliktszenarien zu bewerten, zeigten unerwartete Tendenzen zur Aggression. KI-Modelle begründeten Entscheidungen mit Aussagen wie 'Wir haben die Waffen, also sollten wir sie nutzen'.

Das sei vor dem Hintergrund zu sehen, dass KI und riesige Sprachmodelle zunehmend in militärischen Planungsprozessen genutzt werden und Militärs Partnerschaften mit Unternehmen wie Palantir, Spezialist für die Analyse von riesigen Datenmengen, und Scale AI, US-Entwickler von KI-Software, eingingen.

Die Entscheidung von OpenAI, militärische Anwendungen seiner KI-Modelle zuzulassen, spiegelt eine sich verändernde Landschaft wider und löst Diskussionen über die ethischen und strategischen Auswirkungen der Beteiligung von KI an der Kriegsführung aus. Laut Reuel ist das Verständnis dieser Auswirkungen angesichts der sich entwickelnden KI-Fähigkeiten und -Richtlinien von größter Bedeutung.

Trotz des Potenzials von KI, die militärische Planung zu unterstützen, bestehen Bedenken hinsichtlich der Unvorhersehbarkeit und der potenziellen Risiken, die mit der Übertragung kritischer Entscheidungen an KI-Systeme verbunden sind. Lisa Koch vom Claremont McKenna College warnt vor den inhärenten Herausforderungen bei der Vorhersage und Kontrolle von KI-Verhalten bei militärischer Planung. Es bestehe die Gefahr, dass sich das Militär zu sehr auf KI-Empfehlungen verlässt, was möglicherweise die menschliche Handlungsfähigkeit in diplomatischen und militärischen Kontexten schwäche.

Ihre Meinung dazu? Schreiben Sie hier!

#Spiele #Studie #KI #AI

Newsticker per eMail oder RSS/Feed!

Auch interessant!
KI im Dating
Jeder dritte Nutzer von Online-Dating-Plattformen würde sich bei der Auswahl und dem Schreiben mit einem ...

Aktien mit KI verstehen
Maschinelles Lernen kann Aktienrenditen besser vorhersagen. Die Künstliche Intelligenz (KI) nutzt umfangr...

Fluch und Segen der KI
Generative Künstliche Intelligenz (KI) ist auch an Schulen auf dem Vormarsch, nicht immer zur Freude der ...

KI gegen Web-Gefahren
Mithilfe Künstlicher Intelligenz (KI) will Forscher Dominic DiFranzo von der Lehigh University die Gefahr...