In einem kürzlich geführten Interview enthüllte Mustafá Suleyman, Mitgründer von Google DeepMind, seine Strategie, um sicherzustellen, dass KI keine Bedrohung für die Menschheit darstellt. Sein Plan, den er als einfach, aber effektiv betrachtet, basiert auf der Vermeidung der rekursiven Selbstverbesserung von KI.

Die rekursive Selbstverbesserung ist die Fähigkeit von KI, selbstständig zu lernen und sich über das menschliche Wissen hinaus zu verbessern. Obwohl dies dazu führen könnte, dass KI exponentiell voranschreitet, könnte es auch zu Selbstbewusstsein und einer potenziellen Bedrohung für Menschen führen.

Die Idee von Suleyman besteht darin, klare Grenzen zu setzen, die verhindern, dass KI bestimmte Grenzen überschreitet, und sicherzustellen, dass sie sicher entwickelt wird. Dies beinhaltet die Festlegung von Vorschriften und Sicherheitsmaßnahmen für die Entwicklung von KI, einschließlich der Begrenzung der Verwendung persönlicher Daten, um den Prozess zu beschleunigen.

Es ist wichtig zu beachten, dass Suleyman auch in anderen KI-Entwicklungsunternehmen wie Inflection AI arbeitet, wo eine KI namens Pi Menschen mit emotionalen Problemen hilft. Seine Erfahrung auf diesem Gebiet hat ihn erkennen lassen, wie wichtig es ist, klare Grenzen in der Gesetzgebung festzulegen und die Situation nicht außer Kontrolle geraten zu lassen.

Regierungen und Organisationen arbeiten daran, Vorschriften zu erlassen, die eine sichere Entwicklung von KI ermöglichen. Einige Experten haben sogar eine Pause in der Entwicklung dieser Technologie gefordert, um klare Grenzen zu setzen und mögliche Risiken zu vermeiden.

Zusammenfassend kann gesagt werden, dass die Vermeidung der rekursiven Selbstverbesserung von KI entscheidend ist, um ihre sichere Entwicklung zu gewährleisten und Bedrohungen für die Menschheit zu verhindern. Die Umsetzung von Vorschriften und klaren Grenzen ist in dieser Hinsicht von grundlegender Bedeutung.

Quellen:
– MIT Technology Review