Diskussion zu KI-generierten Tierbildern / PM Heinz Sielmann Stiftung

Thread Status
Hello, There was no answer in this thread for more than 30 days.
It can take a long time to get an up-to-date response or contact with relevant users.

AnjaC

Administrator
Teammitglied
Administrator
Wir haben eben die Pressemitteilung der Heinz Sielmann Stiftung veröffentlicht:

Heinz Sielmann Stiftung hält KI-Bilder von Tieren für gefährlich​


Was meint ihr? Hättet ihr das Originalbild erkannt oder die KI-Darstellung für realistisch genommen bzw. zumindest mal nicht angezweifelt? Malt die Stiftung zu schwarz? Wie groß ist die dargestellte Gefahr wirklich?

Ich bin gespannt auf eure Meinungen!
 
Anzeigen
Die verbreitete Verwendung solcher KI-generierten Bilder - insbesondere bei Fachpublikationen, bei denen man das nicht erwartet - kann dazu führen, dass man die echten Tiere in der Natur nicht erkennt (nach dem Motto das Tier sieht nicht so aus wie auf dem Bild). Dadurch ist es möglich, dass man eine schützenswerte Art nicht erkennt.
Meiner Meinung nach sollte man für KI-generierte Bilder eine Kennzeichnungspflicht vorschreiben, selbst bzw. gerade, wenn dies nicht zu erkennen ist.
 
2 Kommentare
P
pulsedriver kommentierte
Fachpublikationen sind das eine. Bilder mit reiner Deko Funktion z.B. als Begleitmaterial zu einer Naturschutzmeldung in der Tagespresse das andere. Die wird wohl kaum einer zur Bestimmung etc ran ziehen. Die Alternative ist da eine Stockagentur, wo oft auch keiner ganz genau sicherstellt, dass darauf wirklich das genannte Tier und nicht eine ähnliche Art zu sehen ist. Da wird dann eben das Bild genommen, das günstig war und eine Gelbbauchunke darstellen soll. Da hat auch keiner Zeit, jetzt noch lange zu recherchieren, ob das stimmt.
 
Roland L.
Roland L. kommentierte
In Fachbücher werden meist auch keine Fotos, sondern Zeichnungen verwendet.
 
Wenn Menschen falsch, aber schöner dargestellt werden als die Originale, ist das meist gewollt.
(Warum, wäre ne andere Diskussion).
Bei Tieren ist das einfach ganz großer Mist und sollte ohne klare Kennzeichnung bei jeder Veröffentlichnung unter Strafe gestellt werden.
(Sowie etliche weitere volksverdummenden "Produkte" genauso..., ups, schon wieder zig weitere Diskussionsthemen..)
 
3 Kommentare
matthiasgt
matthiasgt kommentierte
Der EU AI-Act schreibt in Art. 50 Abs. 2 eine Kennzeichnungspflicht für KI-generierte Inhalte vor. Für Menschen muss also klar erkennbar sein, welche Inhalte mit KI erzeugt wurden. Die Kennzeichnungs- und Dokumentationspflicht gilt ab 02.08.2026. Die Regelung muss noch in nationales Recht umgesetzt werden. Nachdem es für die Einstufung eines Rechtsverstoßes als Straftat i. d. R. im deutschen Recht eines schwerwiegenden Eingriffs in Rechtsgüter eines Dritten bedarf, wird eine nur "falsche" Darstellung eines Tieres mithilfe einer KI für sich allein keine Straftat darstellen können . Es müsste mMn nach ein weiterer Straftatbestand hinzukommen. Zur Einordnung: Art. 99 des AI Acts sieht Bußgelder vor - trotz der empfindlichen Höhe also immer noch eine Owi. Wir reden hier von solchen Tatbeständen wie Verstöße gegen verbotene KI-Praktiken, Verletzung der Vorschriften für Hochrisiko-Systeme oder die entsprechenden Transparenzpflichten. Adressat dieser Tatbestände sind v. a. die Tech-Unternehmen. In der Sache kann ich Deinen Wunsch nach Authentizität für den Endverbraucher sehr gut verstehen, gleichwohl sehe ich keine Grundlage für eine Strafbewehrung. Ein seriös arbeitender Verlag sollte von sich aus so sorgfältig arbeiten, dass in Fachpublikationen. z. B. Bestimmungsbüchern für Tiere oder Pflanzen, keine KI-erzeugten Bilder auftauchen.
 
soulbrother
soulbrother kommentierte
Kein EU-Act dieser Welt interessiert die meisten der xxx Millionen von user* bei TiCToc und anderen teil-verblödeten Plattformen.
(* egal ob "Spielkinder" die sich neudeutsch "Creator" nennen, oder die, die in der Mehrheit sind und nur konsumieren)

Aber, es ist komplett egal, was und wie wir (die sich ein wenig sorgen) hier diskutieren, dies computerunterstützte Erstellen von Bildern und Texten (und mehr!) hat nunmal viele und enorme Vor- und Nachteile und es ist spannend zu verfolgen wie es sich entwickelt.

Andererseits sind die "Gefahren" halt auch beängstigend, da ebenso vielfältig.
 
markusm1000
markusm1000 kommentierte
Wenn Menschen falsch, aber schöner dargestellt werden als die Originale, ist das meist gewollt.
Bei Tieren ist das einfach ganz großer Mist und sollte ohne klare Kennzeichnung bei jeder Veröffentlichnung unter Strafe gestellt werden.

weihnachtsmann.jpg

Disclaimer gem. EU AI-Act Art. 50 Abs. 2: der ältere Herr existiert in Wirklichkeit gar nicht und das Tier wurde nicht akkurat dargestellt.
 
Freunde von mir sagen immer: "Du lebst in der Vergangenheit".
Ja und ich werde wegen der KI noch bewusster in der Vergangenheit leben. Dazu gibt es genug Bücher und Publikationen von vor +-2020 (?). Eben Schade um den Fortschritt. Ich erfreue mich dann eben an altem Wissen.

Was momentan abgeht ist doch nicht mehr normal. Wenn ich ein gutes Bild sehe, ertappe ich mich mittlerweile immer dabei zu analysieren, ob es denn echt ist. Dann habe ich schnell die Lust verloren und mache was anderes, wo ich definitiv sicher sein kann, dass di KI mich nicht an der Nase herumführt.
 
Kommentar
Ich fahre um die halbe Welt um dem Eis beim Schmelzen zuzusehen und es zu dokumentieren, genauso geht es mir mit Säugern und Vögeln. Was da gerade mit "KI" passiert, verzerrt die Realität auf völlig unverantwortliche Weise. Biologiewissen ist sowieso auf dem Rückmarsch, das könnte ihm den Rest geben... Leute wie der Orangeblödmann werden dies nutzen und nicht nur die Unis zerstören.
Nebenbei: ich hab den alten Sielmann noch persönlich gekannt, gut das seine Stiftung in seinem Sinne handelt.
 
Kommentar
Zur Eingangsfrage:
verblüffenderweise habe ich alle AI Bilder als solche erkannt (gut irgendwann war klar dass das AI Bild immer rechts steht, dann war es kein fairer Wettbewerb mehr)

Dia waren immer zu clean, zu scharf und zu "perfekt".

Aber ich bin mir sicher in kurzer Zeit wird das nicht mehr der Fall sein.

Man wird dagegen nur mit glaubwürdiger und qualitativ hochwertiger Arbeit (Journalisten, Forscher, Autoren,...) bestehen können.
Daran besteht leider in meiner Wahrnehmung allerdings ein Mangel. Leider, leider liefern selbst einst seriöse Publikationen schlecht recherchierte Artikel mit Halbwahrheiten, Auslassungen und leider auch Tendenziös.
Und dazu passt dass auch die Bilder üblicherweise aus irgendwelchen Archiven oder AIs gezogen weerden.

Also die Chance, gerade jetzt zu zeigen was Qualitätsarbeit ist wird vertan.

Der EU AI-Act schreibt in Art. 50 Abs. 2 eine Kennzeichnungspflicht für KI-generierte Inhalte vor. Für Menschen muss also klar erkennbar sein, welche Inhalte mit KI erzeugt wurden. Die Kennzeichnungs- und Dokumentationspflicht gilt ab 02.08.2026. Die Regelung muss noch in nationales Recht umgesetzt werden.

Man müsste einmal durchdenken ob Europa sich damit nicht eher schadet und durch Fortschrittsfeindlichkeit weiter in der Platzierung weltweit zurückfällt.
Generative AI für Bildgenerierung ist nur ein kleiner und nicht sonderlich wichtiger Teil von AI.
 
Kommentar
Man müsste einmal durchdenken ob Europa sich damit nicht eher schadet und durch Fortschrittsfeindlichkeit weiter in der Platzierung weltweit zurückfällt.
Generative AI für Bildgenerierung ist nur ein kleiner und nicht sonderlich wichtiger Teil von AI.
Ich glaube nicht, dass eine Kennzeichnungspflicht für KI-generierte Bilder schädlich ist; ich halte es im Gegenteil für eine ganz dringende Notwendigkeit, um dem grassierenden "Deep Faking" etwas den Boden zu entziehen. Sonst sind auch Bilder als Dokumentations- und Beweismittel völlig wertlos, wenn man beliebig alles generieren kann und kein Unterschied mehr bemerkt werden kann. Sollte Europa dadurch zurückfallen, was ich jedoch nicht glaube, wäre das ein sinnvoller Preis für eine weniger dystopische Welt.
 
Christoph Blümer
Christoph Blümer kommentierte
Ähm, nein, kann ich nicht bestätigen.

1756320141776.png

Klick auf "Öffnen" bringt mich zum Routenplaner in Google Maps, der sogar meinen Standort als Startort voreinstellt (hier entfernt von mir):

1756320230869.png

Was genau ist jetzt anders?
 
W
W.W. kommentierte
Wenn Du dabei "Unwissenheit schützt nicht vor Strafe" durchsetzt, kannst Du Social Media auch gleich ganz verbieten, denn dann darf man bald nur noch das teilen, was eindeutig kein Fake ist. Und das kann bald (manchmal vielleicht heute schon) fast keiner mehr erkennen.
 
markusm1000
markusm1000 kommentierte
kannst Du Social Media auch gleich ganz verbieten, denn dann darf man bald nur noch das teilen, was eindeutig kein Fake ist.
Warum möchtest Du Sachen posten, von denen Du nicht weißt, was sie überhaupt darstellen?
Und das kann bald (manchmal vielleicht heute schon) fast keiner mehr erkennen.
Medienkompetenz?
 
Christoph Blümer
Christoph Blümer kommentierte
Genau darum geht es: Das Teilen von Fake-Müll zu unterbinden bzw. weniger dominant zu machen. Du weisst nicht, ob es wahr ist? Dann teil es doch lieber einfach nicht! In den "guten alten Zeiten" gab es beim SPIEGEL mal die Dokumentationsabteilung, die jede Faktenangabe in Artikeln akribisch auf Plausibilität und Wahrheit geprüft hat. Die wurde irgendwann vernachlässigt; heraus kam Relotius und ein SPIEGEL Online, in dem der Echtheitsgrad nicht mal auf Wikipedia-Niveau geprüft wird, mit dem Ergebnis der Verbreitung von Müll und enormen Vertrauensverlusts.
 
Wuxi
Wuxi kommentierte
Interessanter "Nebenkriegsschauplatz", aber einer, der m.E. nach weniger relevant ist, als das Thema KI allgemein. Seien wir doch mal ehrlich: Die meisten Menschen sind doch heute schon nicht in der Lage, die gezeigten Tiere mehr als grob einzuordnen. Wenn ein Kind von 10 Jahren alle Tiere einigermaßen benennen kann, ohne die Untergattung zu benennen, dann ist es in der Allgemeinbildung schon ganz weit vorne. Da mache ich mir als Vater von Kids im Alter von 10 sowie 13 Jahren ganz große Sorgen um die generellen Auswirkungen der KI - und die Lehrer, mit denen ich mich darüber austausche, sehen das ziemlich genauso.

KI wird in Teilbereichen Fotobusiness vernichten, das ist so sicher wie das Amen in der Kirche. In der Naturwissenschaft wird sich das befürchtete Problem ganz schnell durch die fortschreitende Qualität der KI-Bilder entschärfen. Ausserdem sollte ein Hinweispflicht besonders in Fachpublikationen schnell für Ordnung sorgen. Soweit kein Problem. In manchen Branchen befürworte ich KI sogar. Auch wenn's Heidi Klum wilder Truppe nicht gefällt: Wenn diese "Jobs"durch KI wegfallen, ist das volkswirtschaftlich unerheblich. Wenn sich aber Traum von der Model-Karriere für viele junge Mädels erledigt, dürften damit manche Bulimie-Erkrankungen und Depressionen erspart bleiben. Wobei der Fummel ja immer noch live auf den Laufsteg muss... ganz platt geht die Branche vermutlich nicht.

Ich werde demnächst KI für Bilder nutzen, an die ich so nicht drankomme. Als Facherrichter für Alarmsysteme (meinem eigentlichen Beruf neben der bildjournalistischen Arbeit) kriege ich seit Jahren keine vernünftigen Werbematerialien zusammen, weil mir aussagekräftige Fotos fehlen. Das ist ein großes Problem, weil die Arbeit natürlich sehr diskret ist. Kein Problem ist das für Sat-Anlagen oder Telefontechnik, aber eben für Alarmanlagen. Die Bilder, die die Hersteller einfach nicht auf die Kette kriegen (und ich als kleiner Handwerker noch viel weniger) bastele ich demnächst mit KI.

Letztlich lässt sich bei Fotos mit Kennzeichnungspflichten viel entschärfen. Fotomontagen hat es schon immer gegeben, die sind heute nun eben weit ausgefeilter und leichter verfügbar. Wir werden damit leben müssen. Mehr Sorgen macht mir das beim Allgemeinwissen und vor alle dem beim Lernen. KI kann richtig eingesetzt extrem nützlich sein, weil Wissen blitzschnell gebündelt präsentiert wird. Wer dabei faul wird, bleibt doof. Wer das als mächtiges Lern-Instrument sieht, um sich weiterzuentwickeln, profitiert davon. Fakt ist aber in den meisten Berufen: Nur wer einen Fachbereich von der Pike auf lernt, bekommt den vollen Durchblick. Eine KI kann in Nullkommanix die gesamte SPS-Steuerung einer Fertigungsanlage programmieren. Vielleicht nicht heute, aber bald. Wer sich darauf verlässt, kann die Anlage vielleicht bauen. Aber nur der erfahrene Techniker, der noch mit dem Lötkolben gelernt hat, kennt seine Maschine und findet mit ein paar Handgriffen und langer Erfahrung den Kabelbruch oder gestörten Sensor. Leider ist die heutige Jugend eher so semi motiviert, sich das entsprechende Wissen anzueignen. Wenn ich mir meine Kids und ihre Kumpels so ansehe, zweifele ich an jeder Einzahlung in die Rentenkasse.
 
Roland L.
Roland L. kommentierte
Ich verwende AI auch bei der Programmierung. Das Problem dabei ist, daß man schon einiges an Erfahrung haben muß, um die Ergebnisse zu bewerten. Es macht einen guten Programmierer eher effizienter und ersetzt ein paar Junior-Programmierer, als das es einen Programmierer ersetzt. Die Modell werden immer besser, aber am Ende wissen sie halt doch nicht, was sie tun.
 
Christoph Blümer
Christoph Blümer kommentierte
Ohne Junior-Programmierer gibt es aber bald keine Senior-Programmierer mehr.
 
Roland L.
Roland L. kommentierte
Ja, richtig erkannt.
Gott sei Dank ist das Programmieren selbst der einfach zu lernende Teil des Jobs.
 
B
batho66 kommentierte
In Zukunft wird auch die KI den Kabelbruch erkennen. Es müssen nur genügend Trainingsdaten vorliegen. Es wird doch schon heute in der Medizin diskutiert, ob eine KI beispielsweise Brustkrebs auf Fotos zuverlässiger erkennt als das geschulte menschliche Auge.
 
Christoph Blümer
Christoph Blümer kommentierte
Letzteres ist alles andere als abwegig, weil es dort um Mustererkennung geht, wofür "trainierte" Maschinen prädestiniert sind. Die sind auch nicht nach einem 12-Stunden-Arbeitstag und dem 127. Bild müde und übersehen einen Flecken, der entscheidend sein kann. Darin liegt sehr großes Potenzial, wenn solche KI mit substanziierten Medizindaten "trainiert" wird.
 
Fachzeitschriften werden entsprechende Standards erlassen, dass KI erzeugte Bilder nicht erlaubt sind oder nur mit sehr deutlicher Kennzeichnung. Die Frage ist halt, wie die einfache Presse damit umgeht. Denen ist die letzte Genauigkeit nicht wichtig. Und so lange die KI-freie Publikation nicht häufiger gekauft wird, wird man immer mehr zum günstigeren Bild greifen. Bei Bildern ist die Grenze zwischen KI und Nicht-KI relativ leicht zu ziehen. Bei Texten wird es dann kompliziert. Der Text von einer KI geschrieben, von einem Redakteur korrigiert und dann veröffentlicht. Da verwischen die Anteile der KI und des echten Journalisten. KI-Inhalte sind nicht aufzuhalten, insbesondere bei der Texterstellung. Ob das nun gerade vor Bildern halt macht, bezweifle ich.
 
Kommentar
-Anzeige-
Zurück
Oben Unten