Ohne «Common Sense»

Yampolskiy zeigt während seines Vortrags auch Unzulänglichkeiten von Superintelligenz auf und spricht in diesem Zusammenhang vom «Paradox der Singularität». «Ein superintelligentes System mag zwar dem menschlichen Hirn in vielen Aufgaben und Herausforderungen überlegen sein, es fehlt ihm aber der sogenannte gesunde Menschenverstand», gibt er zu bedenken. «Was passiert also,wenn wir ein solch mächtiges System bauen, dem der Common Sense fehlt?», fragt sich Yampolskiy und wendet ein, dass wir es mit einigen Problemen und Fehlleistungen zu tun bekommen werden.

Diese Probleme zu erkennen und gegebenfalls einzudämmen, sei denn auch Hauptschwerpunkt seiner Forschung, so Yampolskiy. «Dabei haben wir zunächst einmal eine Taxonomie entwickelt, um aufzeigen zu können, wo die Fehlentwicklungen auftreten können. Dazu gehören beispielsweise Softwarebugs oder Fehler im Software-Engineering», führt der Forscher aus und verweist auf eine weitere Fehlerquelle im Rahmen des Maschine Learnings. Diesen Systemen könne nämlich auch etwas Falsches beigebracht werden, mit verheerenden Folgen.

Besonderes Augenmerk legt Yampolskiy und sein Team von Wissenschaftler, in die Möglichkeit, dass die superintelligenten Systeme in falsche Hände geraten könnten. Es sei fast nicht zu verhindern, dass sich auch Cyberkriminelle dieser Rechner für ihre Machenschaften bemächtigten. Am meisten Angst hat Yampolskiy davor, dass auch KI künftig als Service angeboten werden wird, so wie es heute schon Software as a Service oder Infrastructure as a Service gibt. «Mit AI als Service kann faktisch jeder zum Übeltäter werden», meint er. «Was sie sich an Kriminalität und Vandalismus vorstellen können, ist dann möglich», so seine Befürchtung. «Ich möchte hier aber nicht zu sehr ins Detail gehen, um Sie nicht auf falsche Ideen zu bringen».