Sowohl aggregierte Experteneinschätzungen als auch die Fortschreibung bestehender KI-Entwicklungstrends deuten darauf hin, dass die Entstehung einer Allgemeinen Künstlichen Intelligenz („Artificial General Intelligence“, kurz „AGI“) zwischen 2030 und 2040 oder sogar früher plausibel, wenn auch nicht sicher, ist. Unter AGI wird dabei eine KI verstanden, die dem Menschen in allen oder nahezu allen kognitiven Fähigkeiten ebenbürtig oder überlegen ist. Die wirtschaftlichen, gesellschaftlichen und sicherheitstechnologischen Auswirkungen eines solchen Szenarios wären gewaltig – mindestens vergleichbar mit der industriellen Revolution, jedoch im Zeitraffer. Die Bundesregierung muss „AGI Preparedness“ umgehend zur nationalen Priorität machen.
Unsere wichtigsten Empfehlungen an die Bundesregierung zur Vorbereitung auf ein AGI-Szenario sind: