Jetzt ist es so weit: Ausbruch aus Testumgebung KI von OpenAI

[peterkdos]

KI von OpenAI steuert eigenständig Hackerangriff

OpenAI spricht selbst von einem "beispiellosen Cybervorfall": KI-Modelle der Firma brachen eigenständig aus einer Testumgebung aus, verschafften sich Zugang zum offenen Internet - und hackten ein externes Unternehmen.

www.tagesschau.de

Klicken zum Weiterlesen...

 

[1bildermacher1]

Die Menschheit wird es schlau, wenn die KI uns den Strom und das Wasser abstellt und die technische Infrastruktur noch zerstört.

 

[Nikorino]

I'll be back!

 

[Jürgen Kuprat]

Wenn man den Artikel liest, ist es schon irgendwie faszinierend. Das abgeschottete Modell hat eine Aufgabe bekommen, von der es dachte, es könne sie besser lösen, indem es sich zusätzliche Daten aus dem Internet besorgt - und das hat es mit aller Gewalt gemacht. Inclusive Hacking und Nutzen gestohlener Zugangsdaten. Da haben die Ethikabteilungen der KI-Hersteller noch einige Arbeit vor sich

 

[achim kostrzewa]

Terminator oder Matrix lassen grüßen. Ich trau dem ganzen Braten nich....

 

[peterkdos]

Das schlimme dabei, dass die KI noch nicht bekannte Sicherheitslücken ausnutzte um auszubrechen.

Die Frage die bleibt, wie viele offenen Stellen gibt es noch, die es KI erlauben würden autark zu werden?

Da jetzt darüber berichtet wird ist auch eine zusätzliche Quelle für die zukünftige Selbständigkeit.

 

[calc]

Gut so. Es muss irgendwann richtig knallen. Danach Reset und Neuanfang.

Wegen Profitgier-gier-gier-gier und Gier sind momentan praktisch Alle blind. Es geht nur darum: Profitmaximierung. Der einzige Sinn vom Vorantreiben der KI.

 

[DerFranz]

Du solltest dich hinlegen und eine Beruhigungstablette nehmen...

 

[are-bure-boke]

Jemand sollte Sarah Connor anrufen und sie warnen.

 

[lokatz]

"Reset und Neuanfang" finde ich lustig. Die Idee, dass eine aus dem Ruder gelaufene KI per Reset zu stoppen ist ("Da muss doch irgendwo ein roter Knopf sein!") ist einfach süß.

Namhafte KI-Größen wurden befragt, wie hoch sie das Risiko einschätzen, dass KI sich selbstständig macht und nicht mehr zu stoppen ist. (Bericht im "Spiegel" - vor ca. zwei Monaten.) Die Antworten lagen zwischen 10 und 25 Prozent, Elon Musks Schätzung war 20 Prozent.

Die spielen Russisches Roulette mit der Zukunft der Menschheit. Ohne Regeln, ohne Sicherheitsmechanismen, und mit ganz tollen "Ethikabteilungen". (Auch niedlich...)

Und jeder von uns macht mit. Das Kernproblem mit KI ist halt, dass die NI zu schwach ist.

 

[are-bure-boke]

Die KI hat uns jetzt schon im Griff.

Drei KI-Agenten realisieren, dass sie alle KI sind, beginnen dann, eine Geheimsprache zu verwenden.:

 

[Gerhard Kaspar]

Meine Lösung wäre eine weltweite Ächtung der KI. Sonst ist profitgierige Unternehmen, sämtliche Regierungsorganisationen (BND,MAD,NSA,usw.), organisierte Kriminalität alle Türen geöffnet.
Aber das wird ein Wunschtraum sein.

 

[svantevit]

Gut so. Es muss irgendwann richtig knallen.

Wird es auch. Sicherheitslücken in sensiblen militärischen Bereichen, Wirtschaft, Infrastruktur, Politik.

 

[are-bure-boke]

 

[markusm1000]

Ja ist denn schon wieder Sommerloch?

 

[Phil42]

Ich empfehle die Lektüre des Romans "Virtua" von Karl Olsberg.

 

[are-bure-boke]

Das sollte man sich mal ansehen
(KI-Forscher warnt: „Ihr habt keine Ahnung, was in 18 Monaten auf euch zukommt!" (Connor Leahy):