Das sehe ich auch nicht so wirklich. Klar kann „die KI“ möglicherweise sehr, sehr vieles auf die ein oder andere Art gefährden. Aber rein physikalisch sitzt doch der Mensch immer noch am längeren Hebel, indem er im Notfall einfach die Energiezufuhr für die KI kappt aka. den Stecker zieht. Wie soll eine „KI“ das verhindern?
Man lagert zB die Früherkennung von Atomschlägen an die KI aus. Wo früher haufenweise Menschen standen, die das überwacht haben, steht jetzt einer, der eine KI Meldung bekommt und von der entscheiden muss, ob jetzt wirklich gerade ein atomarer Erstschlag auf einen zufliegt oder nicht. Die Meldung selbst ist eine Blackbox, wie so vieles, was KI fabriziert.
Im Prinzip nimmt man Bezug auf die paar Ereignisse im Kalten Krieg, wo man kurz davor war den Knopf zu drücken. Das wird mit assistierenden KI-Systemen nicht unwahrscheinlicher.
3 „Gefällt mir“
Würde im Vergleich zu „House of Dynamite“ erstmal nichts großartig ändern, solange die KI nicht automatisch den Gegenschlag einleiten kann.
Du musst es verifizieren, egal ob Mensch oder Maschine es entdeckt. Dann rufst du eine DEFCON-Stufe aus und Minister, Berater und Generäle sitzen zusammen und geben dem Präsidenten die Optionen.
Wenn du da alles auslagerst und später nur noch den Nuclear Football beim Präsidenten hast, wird es natürlich schon brenzliger. Falls du den dann auch noch aus der Hand gibst…
1 „Gefällt mir“
Da ist aber auch nur ein Problem, wenn auch die Atomschläge selbst von einer KI gestartet werden können. Ansonsten löscht ja trotzdem nicht die KI die Menschheit aus, sondern die Menschheit sich selbst. Bzw. der der den Knopf drückt.
Ich glaube du stellst dir das etwas falsch vor. Wenn die Raketen einmal fliegen, hat man nicht Zeit um den Gegenschlag in mehreren Gremien auszudiskutieren. Die KI meldet, dass man angegriffen wird und auf Grundlage dessen wird dann entschieden den Knopf zu drücken.
Nach der Logik ist auch der Mensch Schuld, wenn die menschgemachte KI den Menschen auslöscht. Nicht zielführende Semantikdiskussion.
2 „Gefällt mir“
Im erwähnten House of Dynamite geht es halt genau darum, dass NACH der Erkennung, egal ob Erkennung durch Menschen oder KI, noch überlegt, gesprochen, in Gremien ausgetauscht und entschieden wird, ob überhaupt eine und wenn ja, welche Abfangs-/+Gegenschlagsvariante gewählt wird.
Kommt halt auf den Zeitpunkt der Erkennung an, wieviel Platz dafür ist.
1 „Gefällt mir“
Ne, ich finde, da ist schon ein Unterschied. Unter „KI die die Menschheit auslöscht“ verstehe ich etwas komplett ohne Zutun eines Menschen (abgesehen von der Entwicklung der KI). Im Beispiel Atomschlag wie du es bringst braucht es ja doch noch einen Menschen, der den zumindest startet.
2 „Gefällt mir“
Gar nicht.
Es ist Marketing.
Wenn man einen Schritt zurück tritt, ist das auch ein bisschen lustig anzusehen. Vor ein paar Wochen kam eine KI-Bude um die Ecke und sagte „Hey, unsere KI hat ein fremdes System gecrackt.“ Und danach konntest du quasi im tages- und wochentakt sehen, wie anderen da natürlich nachgezogen haben. „Oh ja, Mensch! Unsere auch. Uiuiuiui.“
Wer denkt, dass KI uns auslöschen kann, übersieht etwas Grundsätzliches: Das funktioniert (bei allen Systemen) nur, wenn man die Möglichkeit dazu gibt.
Irgendwo hier stand etwas von Raketenfrüherkennung. Du braucht es keine KI um das zu autmatisieren. Das ging auch (und wird heute auch schon gemacht) mit einfacher, automatischer Auswertung von Informationen. Das kann man heute schon koppeln. Das hat nichts mit KI zu tun, das dient nur als Projektionsfläche.
Aber das Marketing greift offensichtlich, wie man auch hier im Chat sieht. Deshalb ist auch sehr wichtig, dass immer genannt wird, dass eine ganz spezielle KI das kann. Sonst ist es kein Marketing. Und wenn es mehr als ein Model oder Hersteller im Statement gibt, dann muss eine der KI-Buden kommen und das für sich vereinnahmen. Musst nur schnell sein, damit die anderen dann im Tages- und Wochentakt sagen können: „Oh, ja unsere Modelle können das auch.“
Sonst wäre der andere Marktteilnehmer ja besser.
2 „Gefällt mir“
Und gleichzeitig sorgt Technik dafür das wir alle immer mehr als genug zu Essen haben. Es ist dank Technik möglich diese Massen an Nahrung herzustellen.
Und ja es gibt leider noch Hunger aber das ist viel mehr ein Verteilungsproblem es gäbe ja genug für alle.
Und in einer perfekten Welt müsste niemand mehr für Geld arbeiten und die Robotik und KI macht alles.
2 „Gefällt mir“
Ja, gut. Ich rede nicht von mehreren Gremien. Writerhin die Frage: Wie läuft es jetzt ab? Obwohl es das Szenario niemals gab.
Es gab im Zusammenhang von „House of Dynamite“ viele Interviews. Reagan war wohl der letzte Präsident, der so ein Test gemacht hat.
„House of Dynamite“ war Fiktion und die Herkunft des Angriffs war nicht bekannt. Ist anscheind unwahrscheinlich, aber durch KI oder Cyber-Atracken unmöglich?
Es sind dort 19 Minuten. Es gab den Versuch den Angriff abzuwehren, diplomatische Anrufe und dann die Optionen. Ich denke schon, dass es davon einiges passiert. Man wird nicht ruhig sitzen und auf den Einschlag warten.
Wenn der Angreifer bekannt ist, musst du aber auch erstmal diese Entscheidung treffen.
Aber das hat doch nichts mit KI zu tun?
Denn nach deiner Argumentation könnte man auch einen Artikel schreiben „Es gibt nächstes Jahr die 10% Wahrscheinlichkeit, dass 4-Jähririge uns auslöschen.“ Und dann gibst du ihnen den Job der Früherkennung der Raketen.
Der starke Reißer „KI kann uns auslöschen“ zielt für mich darauf, dass sie das aktiv tut. Und nicht, dass man die Technik an kritischer Stelle einsetzt. Denn das Problem ist dann alles was man dort einsetzt und KI ist hier nur der Aufmerksamkeitsverstärker, weil das gerade Klicks bringt.
1 „Gefällt mir“
Naja, sobald es eine Ki mal schafft quasi sich als backup irgendwohin zu kopieren , im zweifel auf zehntausende systeme , die sich selbst reaktivieren wenn kein bestimmtes signal ab und an kommt, dann wird es so als würde man termiten und alligatoren in florida ausrotten wollen, quasi unmöglich.
Und wenn eine „böse“ ki mal in einem system drin ist, sagen wir irgend eine army raketenbasis , müsstest du schon irgendwie gleichzeitig den strom , alle backupgeneratoren, batteriegestützte sachen etc hart trennen ohne das die KI das kommen sieht ,
Schwierig
1 „Gefällt mir“
Der unterschied ist das es ziemlich unwahrscheinlich ist das man 4 jährige dazu einsetzt, das man dafpr die KI einsetzt gsr nicht mal so
ja na klar ist das Problem der Mensch, der der KI dann die Möglichkeit gibt, das ist es immer, aber wieso sollte man das gesondert thematisieren?
Nur wenn Menschen meinen, nur die KI kann uns rechtzeitig warnen, nur die KI kann uns wirtschaftlich arbeiten lassen, nur die KI kann unsere Infrastruktur überwachen, nur die KI kann unseren Waffensystemverbund effektiv einsetzen…ja dann sind wir irgendwann an dem Punkt, wo es nur nen Fehler oder nen Mensch braucht der eine KI zu was anderem einsetzt als vielleicht gedacht
aber ist ja vielleicht auch alles nur Marketing, dann ist ja gut…
1 „Gefällt mir“
Das mag sein. Aber das liegt ja nicht an der KI. Und deshalb geht es für mich an der Schlagzeile vorbei. Heute wird dort auch bereits Technik eingesetzt. Es sitzt ja niemand mit einem Fernglas in einem Wetterballon und schaut, ob da irgendetwas angeflogen kommt. Und da geht auch niemand hin und sagt: „Oh, die Technik könnte uns aber töten.“
Gemeinhin ist der Vorfall aus September 1983 bekannt, in dem die russische Satellitenüberwachung einen Sonnenaufgang für einen Raketenstart hielt.
Satellitenüberwachung ist also in der Lage uns auszulöschen.
Deshalb: Es hat nichts mit KI zu tun. Das hat etwas mit Technik und kaputten Prozessen zu tun.
Doch, wenn die KI den Angriff halluziniert und der Mensch dann auf Grundlage dessen den Knopf drückt. Man sollte hier bedenken, dass Angriffe auch mit Waffen erfolgen könnten, von denen man nicht weiß, dass sie existieren. Sprich, die KI müsste auch auf Dinge reagieren, die außerhalb der Trainingsdaten liegen. Das kann nicht funktionieren und ist ein KI-inhärentes Problem.
1 „Gefällt mir“
Jap. Du bist ganz nahe dran.
Genau das ist bei der russischen Satellitenüberwachung auch passiert.
Dort wurden mehrere Raketenstarts gemeldet, die keine waren.
Warum ist das für dich kein Problem aber bei KI schon?
Das ist mir schon klar. Trotzdem halte ich dieses „sie ist irgendwann defintiv unaufhaltsam“ weiterhin für sehr weit hergeholt, oder wie es hier schonmal genannt wurde: Marketing!
Weil nicht mehr nachvollziehbar ist, was die Grundlage für die Entscheidung der KI war, weil der ganze Witz hinter einem KI Frühwarnsystem ist, dass sie eine riesige Zahl von Parametern auswertet und darin Muster erkennt, die Menschen auf die Schnelle eben nicht erkennen könnten.
In dem 1983 Beispiel wusste der Verantwortliche, dass das Satellitensystem eine Rakete gemeldet hat. Sein ganzer Job war dieses System zu überwachen, wodurch er dann die informierte Entscheidung treffen konnte, dass das wohl kein nuklearer Erstschlag der Amerikaner wird. Der hatte sicher auch einen tieferen Einblick in die Zuverlässigkeit der damaligen UDSSR Systeme. Viel Spaß denselben Durchblick bei einem KI System zu bekommen, welches unzählige Datenquellen auswertet.
Außerdem sollte ein neues System besser sein als das Alte und nicht einfach dieselben Probleme in komplizierter haben.
5 „Gefällt mir“
Wir wissen auch seit 30 oder 40 Jahren dass der Klimawandel kommen wird und sind mit Vollgas mitten rein gerast ohne bremse. Die Menschheit ist leider so dumm.
2 „Gefällt mir“