Dieser Nobelpreisträger hat Grundlagen für das maschinelle Lernen geschaffen. Doch wenn Geoffrey Hinton in die Zukunft blickt, sieht er viele Risiken, die von klugen digitalen Wesen ausgehen könnten.
Der Physik-Nobelpreisträger und KI-Grundlagenforscher Geoffrey Hinton hat eindringlich vor den Gefahren gewarnt, die Künstliche Intelligenz (KI) der Menschheit bringen könnte.
„Schreckliche neue Viren, grauenhafte tödliche Waffen“
Mit der KI könne man zwar hochintelligente Helfer erschaffen, die die Produktivität in fast allen Branchen steigern und somit einen wundervollen Fortschritt für die Menschheit bringen könnten, sagte der 77 Jahre alte Brite auf dem Nobelbankett zu Ehren der diesjährigen Nobelpreisträger in Stockholm.
Leider bringe die rasante KI-Entwicklung aber auch viele kurzfristige Risiken mit sich, warnte Hinton, wie in der Übertragung des Banketts beim schwedischen Rundfunksender SVT zu sehen war. „In der nahen Zukunft könnte KI dazu verwendet werden, schreckliche neue Viren und grauenhafte tödliche Waffen zu erschaffen, die selbst entscheiden, wen sie töten oder verstümmeln.“
„Keine Science-Fiction mehr“
Die kurzfristigen Risiken erforderten dringende und energische Aufmerksamkeit von Regierungen und internationalen Organisationen, mahnte Hinton vor den knapp 1300 Gästen des Banketts. In langfristigerer Hinsicht gebe es zudem eine existenzielle Bedrohung, die entstehe, wenn digitale Wesen erschaffen würden, die intelligenter als die Menschen seien.
„Wir haben keine Ahnung, ob wir die Kontrolle behalten können“, mahnte Hinton. „Wir müssen dringend erforschen, wie wir verhindern können, dass diese neuen Wesen die Kontrolle übernehmen wollen. Sie sind keine Science-Fiction mehr.“
Der an der Universität im kanadischen Toronto lehrende Hinton und der US-Amerikaner John Hopfield haben den diesjährigen Physik-Nobelpreis für grundlegende Entdeckungen und Erfindungen erhalten, die maschinelles Lernen mit künstlichen neuronalen Netzen ermöglichen. Sie wurden am Dienstag ebenso wie die anderen Nobelpreisträger feierlich ausgezeichnet.
„Judgement Day“
„Terminator“, „Matrix“, „I, Robot“ – alles nur Science Fiction? Schon bald könnten intelligente Maschinen eigenständig Menschen töten. Bis dahin ist es technologisch nur ein kleiner Schritt.
„Judgement Day“ – Tag des Jüngsten Gerichts: Skynet, eine künstliche Intelligenz, die Sicherheitssysteme kontrollieren und schützen soll, führt den atomaren Erstschlag gegen die Menschheit aus. Danach übernehmen intelligente Maschinen die Macht auf der Erde und beginnen den Krieg gegen ihre Schöpfer. Den Überlebenden bleibt nur die Wahl, den Maschinen als Arbeitssklaven zu dienen oder sich der Rebellion anzuschließen.
So sieht die Apokalypse in den Filmen der „Terminator“-Reihe aus. Die Endzeit-Thriller sind dystopische Fiktion. Und doch weist er auf einen epochalen Umbruch in der Kriegsführung hin, der längst im Gange ist: Roboter revolutionieren die militärischen Konflikte des 21. Jahrhunderts. Sie werden auf den Schlachtfeldern der Zukunft immer wichtiger. Die stählernen Krieger gewinnen für die Militärs immer größere Bedeutung.
Automatisierte Schlachtfelder der Zukunft?
Ungeachtet der technischen Schwierigkeiten, Systeme mit künstlicher Intelligenz und Moralkodex zu entwickeln, geht das US-Verteidigungsministerium davon aus, dass die globale Rüstungsdynamik innerhalb der nächsten 30 Jahre autonom feuernde Roboter notwendig macht.
Über den Schlachtfeldern der Zukunft könnten neben unbemannten Aufklärungsflugzeugen kleinere, bewaffnete und weitgehend autonom agierende Drohnen schweben, die miteinander vernetzt als Schwarm operierten.
Maschinen, die in den Krieg geschickt werden und selbst Ziele wählen und töten. Fortschritt oder Horrorvorstellung? Was wie ein Science Fiction-Film klingt, ist längst in der Entwicklung. „Tödliche autonomen Waffen“ – „Lethal Autonomous Weapons Systems“ – sind gemeint – auch Killerroboter genannt.
Das können schießende Roboter sein, tödliche Drohnen, unbemannte U-Boote. Sie werden im Kampfeinsatz nicht von Menschen dirigiert, sondern entscheiden autonom, was ein legitimes Ziel ist und feuern tödliche Salven ab.
Herrschaft der Maschinen
Wie brisant die Lage ist, zeigt ein Appell von führenden Wissenschaftler und Technologie-Experten, die schon vor Jahren vor der Entwicklung selbstständiger Kampfroboter für den Krieg warnten. Intelligente Drohnen, die anhand definierter Kriterien eigenständig Menschen töten können, seien möglicherweise schon in wenigen Jahren verfügbar, heißt es in einem offenen Brief von Januar 2015.
„Künstliche Intelligenz ist an einem Punkt angelangt, an dem der Einsatz solcher Systeme innerhalb weniger Jahren in einem offenen Brief , nicht Jahrzehnte, möglich sein wird.“ Das Schreiben – „Research Priorities for Robust and Beneficial Artificial Intelligence: An Open Letter“ – ist u. a. unterzeichnet von dem 2018 verstorbenen Astrophysiker Stephen Hawking, Apple-Mitgründer Steve Wozniak, Sprachwissenschaftler Noam Chomsky und US-Unternehmers und Erfinder Elon Musk.
Ein Wettrüsten bei Computer-gesteuerten Kriegswaffen müsse verhindert werden. Die autonomen Waffensysteme könnten leicht in die Hände von Terroristen und Diktatoren fallen, warnten damals die Wissenschafts-Promis. Roboter, die nach bestimmten Kriterien Menschen zur Tötung aussuchen könnten, eigneten sich für gezielte Mordanschläge und ethnische Säuberungen.
USA und Israel sind führend auf dem Gebiet der Militär-Robotik
Kampfroboter sind unbemannte, ferngelenkte oder semiautonome (teilselbstständige) Systeme, die zur Beobachtung, Aufklärung, Minenräumung und Bekämpfung militärischer Ziele dienen.
1971 unternahmen die USA erste erfolgreiche Tests mit bewaffneten Drohnen, doch erst 2001 kamen sie in Afghanistan zum Einsatz. Die US-Streitkräfte verfügen heute über das größte und modernste Arsenal an Robotern, darunter ferngesteuerte Flugobjekte und Bodenfahrzeuge, die mit automatischen Waffen oder Raketen ausgestattet sind.
Anders als menschliche Soldaten kennen Roboter keine Furcht, werden niemals müde, kämpfen ohne Skrupel und Angst vor dem eigenen Exitus.
Künftige Kriege werden von Maschinen bestimmt
Der amerikanische Politologe Peter W. Singer, einer der führenden Experten auf dem Gebiet der automatisierten Kriegsführung, ist überzeugt: Das 5000 Jahre alte Monopol des Menschen, im Krieg zu kämpfen, bricht zusammen. Künftige Kriege werden von Maschinen bestimmt. „Wenn die Menschen Krieg als etwas ansehen, das sie nichts kostet, sind sie eher bereit, ihn zu führen.“
Für Militärs ist die Vision eines Krieges ohne Verluste an eigenen Truppen verlockend: Maschinen können beliebig eingesetzt und ersetzt werden, ohne dass sich in der Heimat beim Anblick von Leichensäcken öffentlicher Protest regt.
Friedensforscher wie Noel Sharkey, Experte für künstliche Intelligenz und Robotik an der Universität Sheffield, fürchten, dass der wachsende Roboter-Einsatz das internationale Menschenrecht unterminiert, neue Kriege heraufbeschwören und ein neuer Rüstungswettlauf angeheizt werden könnte.
Futuristische Visionen
Ähnlich wie in den Terminator“-Streifen steht auch in der „Matrix“-Filmtrilogie die Menschheit vor dem Aus. Zu Beginn des 21. Jahrhunderts verloren die Menschen den Krieg gegen von ihnen erschaffenen Maschinen. Die Roboter nutzen seitdem Menschen zur Energiegewinnung und entwickeln eine Computersimulation – die Matrix, mit deren Hilfe sie die Menschen kontrollieren.
Eine futuristische Vision, so unrealistisch ist, dass nur Hollywood darauf kommen kann. Andererseits entwickelt der technologische Fortschritt häufig eine Eigendynamik, die nicht mehr zu steuern ist. Die Gefahr ist, dass Künstliche Intelligenz so viel Autonomie erlangen könnte, dass sie der Menschheit mehr schadet als nützt, ist durchaus realistisch (mit dpa-Agenturmaterial).