Da die aktuelle KI noch reingarnix mit Intelligenz, kreativen Ideen und qualitativer Beurteilung zu tun hat, sehe ich die Sache recht entspannt.
Gefährlicher könnte es werden, wenn KI-Systeme tatsächlich intelligent werden - allerdings kann man auch dann den Stecker ziehen und damit der aufmüpfigen Intelligenz den Saft abdrehen. Die nächste Stufe wäre dann eine Kombination aus Robotic und KI, ja das könnte kritisch werden.... aber bis dahin betrachte ich die Radieschen von unten.
Derzeit setze ich die kostenfreie KI recht häufig ein und sie erspart mir sehr viel eigene, stumpfsinnige Sucharbeit.
Gefährlicher könnte es werden, wenn KI-Systeme tatsächlich intelligent werden - allerdings kann man auch dann den Stecker ziehen und damit der aufmüpfigen Intelligenz den Saft abdrehen. Die nächste Stufe wäre dann eine Kombination aus Robotic und KI, ja das könnte kritisch werden.... aber bis dahin betrachte ich die Radieschen von unten.
Derzeit setze ich die kostenfreie KI recht häufig ein und sie erspart mir sehr viel eigene, stumpfsinnige Sucharbeit.
5
Kommentare
Das kommt erst, wenn eine KI auf Beinen und mit Sensoren (→ Robotic und KI) das gesammelte rein theoretische Datenwissen mit der Realität abgleichen kann. Bis dahin besteht die Hauptgefahr darin, daß KI-Systeme in einem Wust aus Fakten und Fakes ersticken, weil sie das nicht differenzieren können.
Sofern die KI das dann noch so einfach zuläßt, denn der Selbstschutz vor äußeren Zugriffen wäre sicher auch wichtig für so eine KI.
@HaDiDi allerdings kann man auch dann den Stecker ziehen und damit der aufmüpfigen Intelligenz den Saft abdrehen.
www.netzwoche.ch
www.merkur.de
KI widersetzt sich Abschaltungsbefehl
Bei einem Experiment von Palisade Research weigern sich drei KI-Modelle von OpenAI, sich selbst abzuschalten - trotz ausdrücklicher Instruktion. Forschende vermuten, dass Trainingsmethoden wie Reinforcement Learning mit der Befehlsverweigerung zu tun haben.
Entwickelter Überlebenstrieb: KI will sich nicht abschalten lassen und erpresst den Menschen
Anthropics KI-Modell Claude Opus 4 drohte mit Erpressung, um die eigene Abschaltung zu verhindern. Was wie Science-Fiction klingt, wirft Fragen auf.
Ja, richtig, aber wie man sieht fangen die KIs sich auch ohne Superintelligenz schon an zu widersetzen.
Auf irgend einem Server bleibt immer eine Kopie.