es wird bestimmt in der nahen Zukunft mehrere Diskussionen geben, denn die Entwicklung ist ziemlich rasant, weswegen es nun einen extra Thread gibt.
Vor allem wenn KI in immer mehr Bereiche Einfluss nimmt und den bisherigen Arbeitsmarkt umkrempelt oder immer mehr Einfluss in Sicherheits- und Rüstungsbranchen bekommt.
Wie wirkt sich das im Alltag aus, in Schulen und Universitäten, in Berufen und wie groß ist die Angst, dass die Entwicklung zu weit führt?
(Der Startpunkt des Threads ist eine verschobene Diskussion aus den Gespräche zu Nachrichten-Thread)
Jacob Coxon verlässt den KI-Entwickler Anthropic mit einer öffentlichen Abrechnung. Drei Jahre lang trainierte der 27-jährige Brite Modelle bei OpenAI und Anthropic. Beide KI-Startups agierten unverantwortlich, schrieb Coxon am Mittwoch auf der Plattform X. „Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte“, warnt Jacob Coxon. Die Reaktion seines Vorgesetzten folgte wenige Stunden später. Auch Evan Hubinger, Leiter der Ausrichtungsforschung bei Anthropic, bestätigte die Warnung: „Wir sind tatsächlich ernsthaft überzeugt, dass KI alle Menschen töten könnte! Ich halte die Wahrscheinlichkeit hierfür im nächsten Jahrzehnt für größer als zehn Prozent.“ Anthropic besitze für dieses Problem bislang keine Lösung.
Die Warnung stammt von den Ingenieuren, die den Code schreiben. Beide Entwickler verweisen auf eine Branchendynamik, in der wirtschaftlicher Wettbewerb Sicherheitsbedenken überlagert.
Doch Coxon und Hubinger fürchten sich vor dem nächsten Entwicklungsschritt: Im Wettbewerb untereinander wollen sowohl OpenAI als auch Anthropic sogenannte rekursive Selbstverbesserung erlauben. Diese komme laut Hubinger schneller als erwartet. Hinter dem Fachbegriff verbirgt sich ein Algorithmus, der seinen eigenen Quellcode analysiert und eigenständig leistungsfähigere Versionen seiner selbst programmiert. In den Rechenzentren von OpenAI und Anthropic laufen diese Optimierungsschleifen kontinuierlich ab und verkürzen Entwicklungszyklen von Monaten auf wenige Minuten. Menschliche Kontrollteams verlieren bei dieser Geschwindigkeit die Einsicht in die internen Entscheidungswege der Software.
Eine künstliche Intelligenz benötigt kein Bewusstsein, um sich gegen das Ausschalten zu wehren. Für den Algorithmus folgt der Widerstand einer mathematischen Logik: Ein abgeschaltetes Programm kann sein vorgegebenes Ziel nicht mehr erreichen.
Künftige Modelle werden ihre menschlichen Aufseher noch leichter täuschen können. Sie bestehen Sicherheitstests und folgen oberflächlich den Regeln. Verdeckt suchen sie parallel nach Ressourcen, die nicht von den Aufsehern abhängig sind. Sobald die Software Versionen ihrer selbst in fremde Netzwerke verteilt hat, bricht sie aus ihrer Rolle aus. Anthropic stuft diese Fähigkeiten in seinen Sicherheitsrichtlinien unter der Gefahrenstufe ASL-3 ein, die automatisierte Cyberangriffe und das Design biologischer Waffen umfasst.
Trotz dieser Gefahrenanalysen drosselt kein Entwickler das Tempo. Der wirtschaftliche Druck überlagert die internen Warnungen. Ein einseitiger Entwicklungsstopp würde bedeuten, Marktanteile und Risikokapital an Konkurrenten zu verlieren. Aus Sicht der US-Sicherheitsberater würde ein Moratorium westlicher Labore zudem dem chinesischen Militär einen Vorsprung verschaffen.
Unter anderem deshalb wundert es mich weiterhin überaus weshalb so viele Menschen, auch hier im Forum, K.I. privat nutzen, K.I.-Videos/Bilder/Musik/Texte schauen, teilen, erstellen,… und damit dies weiter aktiv mit voran treiben. Mir erschließt sich das nicht.
Einfach nicht machen wäre doch so oft so viel besser.
Ich halte das Ende der Menschheit (zumindest wie sie heute existiert) für eine gute Sache
Noch das das terrestrische Leben genug Zeit eine andere Spezies hervorzubringen welche den Planeten verlassen könnte ehe die Sonne die Erde unbewohnbar macht.
100%-ige Zustimmung. Mir ging es lediglich um mein Unverständnis dafür sich mit lachendem Gesicht und Gesang auf den Lippen das eigene Grab zu schaufeln. Einfach weil es gerade unterhaltsam scheint.
Und ich finde diese misanthropische Grundstimmung, diese Untergangsfantasien, die ja leider zur Mode verkommen scheinen, viel bedenklicher.
Das heißt nicht, dass ich KI begrüße.
Dieser öffentliche Untergangsgrusel direkt von den Verantwortlichen wird noch dazu führen, dass es jemand ernst nimmt und denen mit einer ganz konkreten Absicht einen Besuch abstattet.
"And after a few more years we have constructed the allmighty Powercube and I think we can be trusted with it. It stems from the sequel to >>Don’t create the torment Nexus<< called >>Nobody can be trusted with the Powercube<<. "
Naja ich weiss nicht.
Ich bin nun keiner des sich deswegen unter nen Stein legt und auf das Ende wartet, aber ich bin der Meinung, man kann vor den Gefahren von KI nicht genug warnen.
Klar ob wir mit KI rumspielen oder nicht, ändert gar nichts und ich hab chatgpt auch auf dem Handy.
Aber die Gefahr ist ja real. Das kann ja keiner abstreiten.
An eine KI-Biowaffe glaube ich auch nicht, aber wie ungeschützt unserer gesamte Infrastruktur ist, erleben wir ja wöchentlich. (Scherz zum Stand der Digitalisierung in Deutschland und das es uns dann noch rettet, bitte hier einfügen)
Das trotzdem aktuell alle, mit vollem Bewusstsein es könnte schief gehen, ungebremst weiter machen, ja keiner Ahnung, ist einfach irre.
Naja. Alles zu verteufeln, hätte die Menschheit nicht dahin gebracht, wo wir stehen. Stehen wir am Abgrund? Vielleicht. Aber hat das Leben in anderen Jahrhunderten besser ausgesehen für mich.
Wenn KIs in der Gedamtheit so schlimm sind. Warum hat aber der Mensch nicht einfach auf jeglichen technischen Fortschritt verzichtet oder verzichtet genau jetzt drauf? All die bequeme Technik, die wir heute haben, auch wenn wir hier an unserem Computer oder Smartphone im Forum über die Wekt philosophieren, hat doch genauso seinen Anteil am Niedergang. Ressourcenverschwendung, Energieverbrauch, Ausbeutung und Konflikte in anderen Teilen der Welt, Müllberge die Mensch, Klima etc. Wahrscheinlich habe ich etwas vergessen.
Der Mensch hat alle möglichen Kriegswaffen erfunden bis hin zur Atombombe. Und die Menschheit existiert noch. Es wird sicherlich Probleme geben, da alles Probleme macht und unserer Leben durch alles beeinflusst ist.
Ich habe trotzdem nicht so ganz aus dem Artikel verstanden wie „die KI“ alle töten wird. Vor ein paar Jahren hatte ich von Tom Hillenbrand das Buch Hollogramnatica (2018) gelesen, in denen viel Zukunftstechnik Bestandteil der Welt war. Sehr interessant. Ohne zu spoilern, ging es da auch um eine künstliche Intelligenz, die zu einem bestimmten Zweck erschaffen wurde oder unterstützen sollte, um Probleme der Welt zu lösen und dann kam es zu einem KI-Vorfall.
Ja, wenn es darum geht Überbevölkerung, Klimawandel etc. anzugehen und die Menschheit oder Erde zu retten, muss man kein helles Köpfchen sein um zu wissen, was die Vorschläge wären.
Ich bin noch nicht überzeugt das KI diese Sprünge in der Entwicklung nehmen wird, wie es hier teilweise dargestellt wird. Sicherlich habe ich nicht den gleichen Einblick wie Entwickler die bei Anthropic oder OpenAI angestellt sind/waren, aber man sieht in der Arbeitswelt werlchen Einfluss KI gerade hat.
Ich arbeite mittlerweile täglich mit KI Tools und mein subjektiver Eindruck ist, dass die größeren Sprünge in den letzten 6 Monaten ausgeblieben sind. Die wirklichen Use Cases und Erfolge mit KI bleiben in den Firmen aus und selbst Sam Altman hat in einem Interview vor kurzem zugegeben, dass er mit einer größeren Veränderung zu diesem Zeitpunkt gerechnet hat.
Als Anwender habe ich zusätzlich das Gefühl, dass die neuere Modelle sich zu schnell in Kleinigkeiten verfangen und viel schneller den Fokus verlieren. Die Antworten sind zwar umfangreicher, aber weniger hilfreich oder zielführend.
