SHOWDOWN! Auto-Transkript für S&P und NFSC Einreichung
EP:66:12: "Ein besseres Heute" Willkommen bei Showdown, der Diskussionssendung zu den drängendsten Fragen des Imperiums. Ich bin Ihre Moderatorin in der Mitte, Eria Quint. Im weiteren Verlauf der Sendung werden wir uns mit den jüngsten gewalttätigen Zusammenstößen zwischen Privatleuten auf Yela und Crusader Security befassen und fragen, ob die Unternehmenspolizei zu weit gegangen ist oder ob sie sich endlich eines Problems annimmt, das schon viel zu lange ignoriert wurde.
Doch zunächst ist es ein Jahr her, dass Laylani Addison Imperatorin des Vereinigten Imperiums der Erde wurde und nicht alle ihre Anhänger sind mit den bisherigen Fortschritten zufrieden. Trotz ihres Wahlkampfversprechens, mehr Mittel für die Forschung im Bereich der künstlichen Intelligenz bereitzustellen, hat sie bisher keine konkreten Maßnahmen ergriffen. Ihr kürzlich vorgeschlagenes Gesetz, der Better Today Act, wird viele der bestehenden Beschränkungen für die KI-Forschung abschwächen und die Tür für eine staatliche Finanzierung öffnen. Einige feiern das neue Gesetz, aber andere sind sich nicht so sicher, ob es eine gute - oder sichere - Idee ist.
Ich bin hier mit Yuna Glidewell, Ingenieurin und Verfechterin künstlicher Intelligenz, und Mahir Lemond, Autor des Buches 2044: The Lemming Incident.
YUNA GLIDEWELL: Hallo Eria. Schön, hier zu sein. MAHIR LEMOND: Hallo.
Was halten Sie von Addisons Vorschlag? Ich fange mit Ihnen an, Yuna.
YUNA GLIDEWELL: Ich meine, ich brauche wohl nicht zu sagen, dass ich überglücklich bin. Es ist schon so lange her, dass Addison ihr Amt angetreten hat, dass meine Kollegen und ich schon die Hoffnung verloren hatten. Wir dachten, sie hätte vergessen, dass sie die Wahl dank ihres Versprechens einer besseren Zukunft gewonnen hat. Eine "bessere Zukunft"? Können Sie das näher erläutern?
YUNA GLIDEWELL: Viel zu lange hat die Menschheit ihren eigenen Fortschritt durch unsere irrationale Angst vor künstlicher Intelligenz behindert. Es ist Jahrhunderte her, dass wir in der KI-Forschung nennenswerte Fortschritte machen durften, und nicht zufällig sind wir meiner Meinung nach in der Technologie mindestens ein Jahrhundert hinter den Xi'an zurück. Hat das Xi'an-Reich eine echte künstliche Intelligenz entwickelt? Wenn ja, dann ist das eine Neuigkeit für mich.
YUNA GLIDEWELL: [lacht] Nun, nicht dass wir wüssten. Aber deshalb ist es ja auch so wichtig, dass wir es zuerst schaffen. Wenn wir etwas erschaffen, was selbst die Xi'an noch nicht haben, können wir die technologische Lücke ganz erheblich schließen. Was ist mit Ihnen, Mahir? Erregt oder beunruhigt Sie der Better Today Act?
MAHIR LEMOND: Es beunruhigt mich zutiefst. Wir haben schon vor langer Zeit entschieden, dass KI das Risiko nicht wert ist, und zwar aus sehr guten, ausführlich dokumentierten und vor allem tödlichen Gründen. Das geht weit über das Tokioter Lemming-Auto-Desaster von 2044 hinaus, bei dem 12.456 Menschen starben und unzählige verletzt wurden. Jedes Mal, wenn wir KIs erschaffen haben, hat es uns schlimmer erwischt. Die Mars-Tragödie im Jahr 2125, die Explosion des Cerita Towers im Jahr 2298, der Horus-Zwischenfall im Jahr 2696: allesamt verursacht durch gut gemeinte, aber letztlich gefährliche Experimente mit KI.
YUNA GLIDEWELL: Das waren alles schreckliche Tragödien, das will ich nicht bestreiten. Aber frühe Technologien haben immer Probleme, die in den nachfolgenden Generationen ausgearbeitet werden. MAHIR LEMOND: Der Verlust von Menschenleben ist ein bisschen ernster als ein "Problem", Frau Glidewell.
YUNA GLIDEWELL: Und wie ich schon sagte, es waren Tragödien. Solche, die wir vermeiden können, wenn wir aufhören, Angst vor dem Fortschritt zu haben. Heute sind wir in der Lage, Sicherheitsvorkehrungen zu treffen, die sich unsere Vorfahren nicht hätten vorstellen können. Glauben Sie mir, niemand denkt mehr über die möglichen Folgen einer schlecht gemachten und verwalteten künstlichen Intelligenz nach als die Menschen, die sie erforschen. MAHIR LEMOND: Ich denke, die Menschheit macht gute Fortschritte. Sehen Sie sich an, welche Auswirkungen die Regenerations-Technologie hat. Wie kann das kein Fortschritt sein?
YUNA GLIDEWELL: Natürlich meine ich nicht, dass wir uns absolut nicht weiterentwickeln. Aber obwohl es immer wieder Fortschritte gibt, ist der allgemeine Trend, dass wir langsamer werden. Sie müssen zugeben, dass es seltsam ist, dass wir seit Hunderten von Jahren mit denselben Raumschiffmodellen fliegen, während in den Anfängen der Raumfahrt in rasantem Tempo neue Raumschiffmodelle auf den Markt kamen. Ich meine, kommen Sie, mein Sohn fliegt ein Schiff, das 2874 gebaut wurde. MAHIR LEMOND: Ja, ich gebe zu, dass es in manchen Bereichen so aussieht, als gäbe es eine Flaute. Aber so ist das mit dem Fortschritt. Wenn Sie sich die Geschichte der Menschheit ansehen, dann gab es Zeiten des schnellen Wandels, Zeiten des "business as usual" und Zeiten des Niedergangs. Manche Technologien können erst lange nach ihrer Entdeckung voll genutzt werden. Sehen Sie sich die Dampfkraft an: Sie wurde von den Menschen im 1. Jahrhundert erfunden, konnte aber aufgrund fehlender Ressourcen erst um 1700 voll genutzt werden. Sehen Sie sich auch die Wasserschiffe an, deren Design seit der Zeit, bevor die Menschen auf Luna landeten, nicht mehr wesentlich verändert werden musste. Warum etwas reparieren, das nicht kaputt ist?
YUNA GLIDEWELL: Warum sollten Sie sich mit dem zufrieden geben, was Sie haben, wenn Sie etwas bekommen können, das besser funktioniert? Wie Sie schon sagten, gibt es Perioden, in denen sich wenig bis gar nichts ändert, und dann wieder Perioden mit explosiven Veränderungen, wenn eine neue Ressource entdeckt wird. Die KI hat das Potenzial, diese Ressource für uns zu sein. Ganz gleich, wie viel Kreativität und Einsicht der Mensch besitzt, unser Verstand ist begrenzt. Eine KI, die mit anderen KIs vernetzt ist, wird übermenschliche Fähigkeiten haben. Stellen Sie sich vor, wie die Zukunft des Raumschiffsdesigns aussehen könnte, wenn wir auch nur ein paar KIs damit beauftragen würden, ein besseres Schiff zu bauen. MAHIR LEMOND: Wir verfügen bereits über komplexe Algorithmen und leistungsstarke Technologien für maschinelles Lernen, die genau das leisten, was Sie beschreiben. Die nächste Generation von Drohnen, die die Armee '47 entwickelte, wurde ursprünglich von einem Computer entworfen, der mit Daten über Vogelskelette gefüttert worden war. Wir brauchen eindeutig keine künstliche Intelligenz, um neue Technologien zu entwickeln. Die Geschichte zeigt es deutlich.
YUNA GLIDEWELL: Nochmals, ich behaupte nicht, dass es kein Risiko gibt, ich sage nur... MAHIR LEMOND: Ich bin noch nicht fertig. Die Beweise zeigen, dass Menschen sterben, wenn KI im Spiel ist.
YUNA GLIDEWELL: Sie interpretieren mich absichtlich falsch. Ich habe mehrfach gesagt, dass wir die hypothetische Gefahr in Betracht gezogen haben und den Schutz von Menschenleben zu unserer obersten Priorität machen werden. MAHIR LEMOND: Die Gefahr ist nicht hypothetisch und das wissen Sie. Es ist Ihnen nur egal.
Lassen Sie uns für einen Moment von der Frage der Menschenleben Abstand nehmen. Yuna, können Sie mir mehr über die Probleme erzählen, die Ihrer Meinung nach durch künstliche Intelligenz gelöst werden können?
YUNA GLIDEWELL: Danke, Eria. Wenn wir KI haben, müssen Soldaten nicht mehr in den Krieg ziehen. Die Zahl der Todesfälle im Operationssaal wird drastisch sinken. Verkehrsunfälle werden der Vergangenheit angehören. Schiffe werden in der Lage sein, sich wirklich selbst zu fliegen. Ich könnte noch mehr sagen, aber das ist die Zukunft, die wir uns selbst verweigern. Sie ist nur deshalb unerreichbar, weil wir Angst haben, die nächsten Schritte zu tun. Der Better Today Act ist der sanfte Anstoß, den wir brauchen, um uns vom Startblock zu erheben. MAHIR LEMOND: In Ordnung. Vergessen wir die Vergangenheit und stellen wir uns für eine Sekunde vor, dass es für eine fehlerhafte oder bösartige KI keine Möglichkeit gibt, Menschen zu ermorden. Sie haben soeben eine Welt beschrieben, in der die Opfer von Kriegen, frühem Tod und Armut alle ausgerottet sind, oder so nahe an der Ausrottung sind, wie es nur geht. Ist das richtig?
YUNA GLIDEWELL: Nicht ganz. Aber die Dinge haben definitiv das Potenzial, viel, viel besser zu werden. MAHIR LEMOND: Und der beste Weg dazu ist, denkende, fühlende Sklaven zu schaffen, die unsere Probleme für uns lösen?
YUNA GLIDEWELL: Entschuldigen Sie bitte? Bevor wir auf diese Frage eingehen, müssen wir eine kurze Werbepause einlegen. Wir werden bald zurückkehren, um die faszinierende Diskussion zwischen Mahir Lemond und Yuna Glidewell zu beenden. Dann werden wir uns mit der Situation auf Yela befassen. Kann die Crusader Security wirklich für Ordnung auf einem Mond sorgen, auf dem es keine gibt? Gehen Sie nicht weg.