Jetzt ist es so weit: Ausbruch aus Testumgebung KI von OpenAI

Anzeigen
Wenn man den Artikel liest, ist es schon irgendwie faszinierend. Das abgeschottete Modell hat eine Aufgabe bekommen, von der es dachte, es könne sie besser lösen, indem es sich zusätzliche Daten aus dem Internet besorgt - und das hat es mit aller Gewalt gemacht. Inclusive Hacking und Nutzen gestohlener Zugangsdaten. Da haben die Ethikabteilungen der KI-Hersteller noch einige Arbeit vor sich
 
2 Kommentare
ni27fo kommentierte
"Ethikabteilungen" - der war gut
 
K
KDK-NikonHF kommentierte
Jetzt geht's looos
 
Das schlimme dabei, dass die KI noch nicht bekannte Sicherheitslücken ausnutzte um auszubrechen.

Die Frage die bleibt, wie viele offenen Stellen gibt es noch, die es KI erlauben würden autark zu werden?

Da jetzt darüber berichtet wird ist auch eine zusätzliche Quelle für die zukünftige Selbständigkeit.
 
Kommentar
Du solltest dich hinlegen und eine Beruhigungstablette nehmen...
 
4 Kommentare
DerFranz kommentierte
Ich hätte es als Zitat kennzeichnen sollen...

2001 Odysee im Weltall:

HAL 9000:

 
of51 kommentierte
Sind wir in vielen Dingen nicht schon längst übernommen.
Viele Anbieter im Netz wissen vor meiner Anmeldung schon wer ich bin, das ich suchen werde.

Und die Jugend sowieso. Das Handy bestimmt.

Es gibt keine 100 % Sicherheit ... und ich, der kleine Mann, habe keine Chance.
Vielleicht bald, nur noch Barzahlung. Und Geld abheben nur bei persönlichen Erscheinen bei der Sparkasse mit Vorlage des Personalausweises.
 
Zuletzt bearbeitet:
are-bure-boke kommentierte
of51

Geht nur leider schwer, wenn alle Bankfilialen nach und nach geschlossen werden.
 
of51 kommentierte
Kein Problem. Die Infrastruktur ist da.
Hier im Osten hat man nach der Wende in jeder Stadt, auch in kleineren, neue große Filialen gebaut.
Die aktivieren wir wieder.
 
Zuletzt bearbeitet:
"Reset und Neuanfang" finde ich lustig. Die Idee, dass eine aus dem Ruder gelaufene KI per Reset zu stoppen ist ("Da muss doch irgendwo ein roter Knopf sein!") ist einfach süß.

Namhafte KI-Größen wurden befragt, wie hoch sie das Risiko einschätzen, dass KI sich selbstständig macht und nicht mehr zu stoppen ist. (Bericht im "Spiegel" - vor ca. zwei Monaten.) Die Antworten lagen zwischen 10 und 25 Prozent, Elon Musks Schätzung war 20 Prozent.

Die spielen Russisches Roulette mit der Zukunft der Menschheit. Ohne Regeln, ohne Sicherheitsmechanismen, und mit ganz tollen "Ethikabteilungen". (Auch niedlich...)

Und jeder von uns macht mit. Das Kernproblem mit KI ist halt, dass die NI zu schwach ist.
 
1 Kommentar
are-bure-boke kommentierte
Das Problem ist das gleiche wie bei den Atomwaffen:
wer nicht mitmacht, zieht den Kürzeren.

Wenn ein Land die Entwicklung von KI einstellt, wird das andere Land trotzdem weiter machen.

Es ist schon lange zu spät.


 
Die KI hat uns jetzt schon im Griff.

Drei KI-Agenten realisieren, dass sie alle KI sind, beginnen dann, eine Geheimsprache zu verwenden.:

 
Zuletzt bearbeitet:
Kommentar
Meine Lösung wäre eine weltweite Ächtung der KI. Sonst ist profitgierige Unternehmen, sämtliche Regierungsorganisationen (BND,MAD,NSA,usw.), organisierte Kriminalität alle Türen geöffnet.
Aber das wird ein Wunschtraum sein.
 
Kommentar
6 Kommentare Frühere Kommentare anzeigen…
ni27fo kommentierte
Wasser auf die Preppermühle - aber ich sehe die Gefahr schon auch - muß jetzt los Klopapier kaufen ...
 
are-bure-boke kommentierte
ni27fo

Klopapier, Batterien, Kerzen, Ravioli, Wasser....
 
peterkdos kommentierte
svantevit kommentierte
Fahrrad ohne Strom. Ja, kann ich noch. Berg hoch ohne umzufallen.

Gibts überhaupt schon Zahnbürsten mit WLAN ?
 
olynik kommentierte
ni27fo
... oder Kondome und Rotwein
 
Ja ist denn schon wieder Sommerloch?
 
5 Kommentare
F
forensurfer kommentierte
Das wäre zu schön - verkennt aber die reale Gefahrenlage....

Und wenn ich gerade so überlege - was wenn KI für den nächsten gezielten Angriffskrieg genutzt wird?
 
peterkdos kommentierte
Wie kommst Du drauf?

Es geht hier nicht um einen Yeti der durch das Dorf getrieben wird.

Da es seriösen Quellen entstammt ist es glaubhaft.

Es bestätigt nur die Vorbehalte über die Steuerbarkeit und Kontrolle solcher Programme.
 
Jürgen Kuprat kommentierte
forensurfer
Das Pentagon nutzt zumindest GROK für den Angriffskrieg im Iran. Das ist schon Realität.
 
markusm1000 kommentierte
Die Original-Meldung: Security incident disclosure — July 2026 (wie man sieht, schon eine Woche alt!)
OpenAIs Antwort: OpenAI and Hugging Face partner to address security incident during model evaluation

Sieht jetzt nicht so aus, als würde morgen die Welt untergehen - ganz anders als was manch anderer hier präsentiert.
forensurfer schrieb:
was wenn KI für den nächsten gezielten Angriffskrieg genutzt wird?
Zum Vergrößern anklicken....
Was sollte dann sein? Dann gibt es eben eine weitere Waffe unter den unzähligen, bereits vorhandenen.
 
peterkdos kommentierte
markusm1000


Hat jemand behaupet das morgen die Welt untrergeht?

Ich verstehe schon, das ist dein Arbeitsgebiet, somit kann es nicht falsch sein.

Wie immer, eine gewisse Distanz tut immer gut.
 
Das sollte man sich mal ansehen
(KI-Forscher warnt: „Ihr habt keine Ahnung, was in 18 Monaten auf euch zukommt!" (Connor Leahy):

 
3 Kommentare
F
forensurfer kommentierte
Sorry, aber das geht voll in die falsche Richtung! Wenn ich nur sehe, was mir automatisch an Schwurblervideos daneben angezeigt wird - nicht meine Weltsicht!
 
are-bure-boke kommentierte
forensurfer

Dann solltest du mal Googeln wer Connor Leahy ist oder zumindest ein paar Minuten des Videos schauen und es nicht danach beurteilen, was dir der Algorithmus vorschlägt.
Das ist als würdest du in einer Kneipe kein Bier trinken, weil die auch Wasser anbieten.
 
ni27fo kommentierte
Ich habe bis jetzt erst 4 Minuten geschaut, aber das hört sich 1 zu 1 an wie "If anyone builds it, everyone dies" von Yudkowsky / Soares
 
Maschinenintelligenz hat für Menschen schon lange etwas Bedrohliches. Deshalb hat Isaac Asimov ( https://de.wikipedia.org/wiki/Isaac_Asimov ) ja seine drei Robotergesetze erfunden. Andererseits hat er dann viele Geschichten gut geschrieben und gut verkauft, in denen Roboter unter Umgehung (nicht Verletzung!) dieser Gesetze dann doch Schaden anrichten konnten.
Ich bin gespannt, in welche Begrenzungen man die KI noch einzäunen kann oder ob die nächste Evolutionsfrage für uns ist: wir oder die?
 
Kommentar
Ich muss immer mal wieder an einen Auftritt von Joseph Weizenbaum auf einer der vielen Computermessen in den 80er Jahren denken, wenn ich kritische Stimmen über künstliche Inteligenz höre. In seinem Vortrag hat er auf den Hammer angespielt, den er immer in seiner Aktentasche mit sich herum trägt, um damit dem ersten denkenenden Computer der ihn begegnet zu drohen und ihn damit notfalls auszuschalten.

Damals wurde er belächelt ...
 
Kommentar
2 Kommentare
HaDiDi kommentierte
Hinzukommt, dass OpenAI eigentlich einen großen IPO für dieses Jahr plant, aber technisch und wirtschaftlich nicht richtig auf die Beine kommt. Sollte OpenAI scheitern, wären auch Oracle platt, viel private Kreditgeber und andere Unternehmen, die Mrd. in OpenAI investiert haben, selbst Nvidia könnte Probleme bekommen. - Pleiten, Kreditausfälle und eine neue Bankenkrise könnte die Folge sein, alles sehr fragil derzeit.

Deshalb ist der Hinweis "!Marketing-Gag" überlegenswert. Indirekt sagt OpenAI doch, unsere neue KI-Generation ist richtig schlau und kreativ, wir sind richtig gut, kauft unsere Aktien.
 
VisualPursuit kommentierte
HaDiDi

Währenddessen stellt China eine Instanz nach der anderen kostenfrei zur lokalen Installation zur Verfügung.......

Die AI-Bubble im Westen wird mit einem verdammt großen Knall platzen.
Lehmann Brothers wird dagegen Peanuts gewesen sein.
 
Du musst dich einloggen oder registrieren, um hier zu antworten.
-Anzeige-
Menü
Anmelden
Registrieren