Wenn Bilder keine Zeugen mehr sind: Was Deepfakes mit der Zukunft der Fotografie machen

[AnjaC]

Eine aktuelle Pressemitteilung des Alexander von Humboldt Instituts für Internet und Gesellschaft (HIIG) hat mich diese Woche zum Nachdenken gebracht. Im Rahmen der Langen Nacht der Wissenschaften beschäftigt sich das Institut unter anderem mit Deepfakes und synthetischen Medien.​

Fotografie als Zeugenschaft: Was bleibt von dieser Idee, wenn Bilder ohne Kamera entstehen können? (KI-generiertes Symbolbild (sic!) )

Eigentlich kein neues Thema. Und doch blieb bei mir nach dem Lesen eine Frage hängen:

Was passiert eigentlich mit einer Bildgattung, deren größte Stärke seit fast 200 Jahren darin bestand, Zeugnis von der Realität abzulegen?

Natürlich war Fotografie nie objektiv. Perspektive, Ausschnitt, Brennweite oder Bildbearbeitung beeinflussen unsere Wahrnehmung. Dennoch gab es immer eine grundlegende Vereinbarung zwischen Bildautor:innen und Betrachter:innen:

Das Gezeigte hat sich tatsächlich vor einer Kamera befunden. Es hat stattgefunden.

Genau deshalb besitzen Fotografien eine besondere Glaubwürdigkeit. Sie zeigen nicht nur etwas. Sie bezeugen etwas.

Wenn über KI-Bilder diskutiert wird, landet man häufig bei der Frage, ob das noch Kunst oder noch Fotografie ist. Ich glaube inzwischen, dass das gar nicht die entscheidende Frage ist. Zum ersten Mal entstehen heute massenhaft Bilder, ohne dass dafür überhaupt eine Kamera benötigt wird. Damit trennen sich zwei Eigenschaften, die bislang fast selbstverständlich zusammengehörten: das Bild als visuelles Ergebnis und das Bild als Dokument einer realen Situation.

Eine KI kann eine Szene erzeugen. Sie kann aber nicht Zeugin eines Ereignisses sein.

Je länger ich darüber nachdenke, desto mehr glaube ich, dass die eigentliche Stärke der Fotografie nie ihre technische Perfektion war. Sondern die Tatsache, dass jemand tatsächlich dort war. Deshalb bleibt für mich am Ende vor allem eine Frage:

Wie erkennen wir künftig, welchen Bildern wir vertrauen können?

Eure Meinung?​

Wird die Rolle der Fotografie als Zeugin der Realität durch KI geschwächt – oder vielleicht sogar wertvoller als je zuvor? Brauchen wir künftig stärkere Nachweise für die Echtheit dokumentarischer Fotografien?

Hinweis​

Wer morgen in Berlin ist und Lust hat, sich selbst mit dem Thema zu beschäftigen: Das Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG) beteiligt sich an der Langen Nacht der Wissenschaften mit Vorträgen und Diskussionen rund um Deepfakes, KI und digitale Gesellschaft. Der Eintritt kostet 7,50 Euro.

Weitere Informationen:

• Pressemitteilung des HIIG zur Langen Nacht der Wissenschaften
• Programmübersicht des HIIG
• Offizielle Website der Langen Nacht der Wissenschaften

Klicken zum Weiterlesen...

 

[W.W.]

Heutzutage leider ein großes Problem für die Glaubwürdigkeit von Foto- und Videoaufnahmen.

 

[calc]

Wie erkennen wir künftig, welchen Bildern wir vertrauen können?

Darauf habe ich keine Antwort. Nur eine Vermutung: irgendwann werden wir das nicht mehr erkennen. Wann? Heute? Morgen? In ein paar Monaten, Jahren? Es wird noch lustig werden betreffend Entwicklung und Verblödung der Gesellschaft, Bildung, Wissenschaft, Politik, zukünftige Kriege, Propaganda, ... . Hauptsache einige werden ganz, ganz viel Geld und Macht erlangen.

Was mich persönlich betrifft, stelle ich immer mehr fest, dass ich mich vor allem im Privaten von der heutigen Welt abkapsele und mit engen gleichgesinnten Freunden und in der Vergangenheit Befriedigung finde:

• Beruf: ich muss noch +- 10 Jahre hinhalten. Momentan glaube ich, dass ich das hinkriegen werde. In meinem Fachbereich bin ich im Moment der KI noch immer haushoch überlegen. Solange die KI nicht denken kann, wird das auch so bleiben.
• Social Media habe ich nicht und brauche ich nicht. Manchmal gehe ich zwecks Weiterbildung etwas schnuppern und stelle fest, dass z.B. Instagram und Facebook von Tag zu Tag mehr KI-Müll zeigen. Zeitverschwendung.
• Betreffend Musik und Filme lebe ich schon seit längerem im letzten Jahrtausend. Es gibt noch soviel aus den 60ern/70ern/80ern zu erkunden, da bin ich tot, bevor ich überhaupt Zeit hätte mich mit den aktuellen KI-Produktionen zu beschäftigen.
• Betreffend Fotografie: Bilder von Fremden interessieren mich nicht mehr. Ich ertappe mich mittlerweile quasi immer, neue Bilder dementsprechend zu analysieren, ob sie "echt" sind. Darauf habe ich keine Lust mehr. Ich will aus guten Bildern lernen, bessere anfertigen. Es nimmt mir dann einfach die Freude, wenn ich feststelle von einer Machschine "betrogen" worden zu sein. Ich interessiere mich daher nur noch für Bilder von ein paar Gleichgesinnten, wo ich weiss, dass Menschen sie aufgenommen haben. Persönlich entsteht bei mir jedes Bild, das an die Wand gehängt wird auf Film und rein analog. Da habe ich dann das Negativ oder das Dia als "Beweis" und ein reines Gewissen.

Insgesamt sehe ich in der momenten Entwicklung auch Positives: Ich lebe intensiver. Digital-Detox war für mich nie einfacher. Zurück zu den Wurzeln.
Für die Jugend sehe ich jedoch schwarz.

 

[forensurfer]

Ja, auch ich habe schon vor der Gefahr für die Glaubwürdigkeit gewarnt. Zwar war auch analog Einiges möglich - ich empfehle das Buch "Wenn Fotos lügen" - aber auch ich ertappe mich dabei, mich bewusst wieder der analogen Fotografie zu widmen... Das eigene Fotolabor ist schnell reaktiviert. Alles noch vorhanden und ein wichtiger, haptischer Aspekt wird auch noch erlebbar.

KI wird mE dazu führen, das wir unseren eigenen Augen nicht mehr trauen werden... die Spionbrillen von Meta werden das noch weiter erschweren.

 

[EvaK]

Wie erkennen wir künftig, welchen Bildern wir vertrauen können?

Eine Frage, die ich in Bezug auf Fotos als Dokumente des Zeitgeschehens nicht beantworten kann. Noch vertraue ich bestimmten Medien, aber auch die sind vor KI-generierten Fake-Bildern nicht gefeit. Das gewisse Medien versuchen, ihre LeserInnen an KI-Bilder zu gewöhnen, zeigt sich bereits jetzt. Für mich steht außer Zweifel, daß die in einiger Zeit auch den Hinweis darauf weglassen.

(S+) Meinung: Künstliche Bilder: Wie »Bild« sich eine Wal-Obduktion zusammenfantasiert

Der verendete Wal aus der Ostsee kommt unters Messer, sehr viele Medien berichten vorab. Auch die »Bild«-Zeitung beteiligt sich und lässt sich die passenden Bilder kurzerhand dazuerfinden.

www.spiegel.de

Könnte es sein, daß wir irgendwann in nächster Zukunft also wieder zu Medien ohne Bilder zurückkehren?

 

[HaDiDi]

Ich muss von der Fotografie nicht leben und für mich ist der Prozess hin zum Foto, eigentlich wichtiger, als das Foto selbst.
Statt Fotowalk mit Kamera ein KI-Bildchen am PC erzeugen, bringt mir keinen Spaß, werde ich also auch nicht machen.

Aber müsste ich von meinen Fotos leben, oder wollte ich (politisch) Menschen manipulieren, klar dann würde ich auch auf der KI-Schine fahren. Da heute schon das ZDF mit KI-Filmchen in den Hauptnachrichten manipuliert, dieses nicht kennzeichnet und es dann auch keine personellen Konsequenzen hat, wird man wohl noch kritischer werden müssen. Und wer nicht kritisch ist, wir zukünftig noch stärker manipuliert.

Ich hatte insgesamt ein wirklich tolles Leben, bin aber froh, dass ich jetzt schon Ü65 bin....

 

[forensurfer]

Die einzigen Nutznießer bei KI: Nvidia

Is AI Profitable Yet?

isaiprofitable.com

 

[bassheiner]

Ganz so pessimistisch bin ich nicht. Wir müssen nur genauer und mit einer gewissen Skepsis die Medien betrachten. Da beziehe ich das geschriebene und gesprochene Wort sowie Bild, Film und Ton mit ein.
Ausserdem war eine Manipulation durch die Medien schon vor KI möglich.
Wie oft wurden uns in der Werbung gestellten Szenen untergejubelt, wo uns klar war, dass in der Realität nie ein Gespräch zwischen Clementine und einer Hausfrau über Flecken in weißer Wäsche stattfand.
Grüße aus HB
Heiner

 

[new_nik]

Jede große technologische Revolution hat zunächst Angst ausgelöst.
Bei der Dampfmaschine, der Elektrifizierung, dem Computer und dem Internet gab es ähnliche Befürchtungen. Die Übergangsphasen waren oft schwierig, aber am Ende lebten die meisten Menschen materiell besser, gesünder und mit mehr Möglichkeiten als zuvor.
Auch in der Medizin zeichnet sich Fortschritt ab: Kl hilft bei der Früherkennung von Krankheiten, beschleunigt die Entwicklung neuer Medikamente und unterstützt Ärzte bei Diagnosen. Viele Behandlungen könnten dadurch schneller und günstiger werden.
Gleichzeitig werden Wissen und Bildung demokratischer.
Jemand mit einer guten Idee braucht nicht mehr unbedingt ein großes Unternehmen im Rücken. Eine einzelne Person kann mit KI eine App entwickeln, ein Buch schreiben, eine Sprache lernen, ein Unternehmen gründen oder wissenschaftliche Informationen verstehen, die früher nur Experten zugänglich waren.

 

[markusm1000]

die früher nur Experten zugänglich waren.

Ein Profi zeichnet sich dadurch aus, dass er weiß was zu tun ist, wenn etwas schief geht.

Bildgattung, deren größte Stärke seit fast 200 Jahren darin bestand, Zeugnis von der Realität abzulegen?

KI-Bilder würde ich unter Malerei einsortieren, nicht unter Fotografie.

Social Media habe ich nicht und brauche ich nicht.

Du badest gerade Deine Finger darin.

Wie erkennen wir künftig, welchen Bildern wir vertrauen können?

Medienkompetenz.

Einem einzelnen, für sich genommenen Bild konnten wir noch nie vertrauen.

Noch vertraue ich bestimmten Medien, aber auch die sind vor KI-generierten Fake-Bildern nicht gefeit.

Bis gestern hast Du also der BILD vertraut, heute nicht mehr?

 

[svantevit]

Auch eine ehrliche festgehaltene Realität läßt sich nachträglich durch Wort. Satz, Text verdrehen und manipulieren.
Verantwortlich sind die Journalisten was sie daraus machen.
Gekonnte Wortspiele und Realitätsverschiebungen zu ihren Gunsten und Einstellungen sind nicht ganz unüblich.
Alles zusammen vermittelt eine Glaubhaftigkeit oder eben nicht.
Wer sich allein auf ein Bild verlässt hat verloren.
Wer sich allein auf den Text verlässt ebenfalls.
Auch Beides kann in die Hose gehen.
Darum halte ich von KI überhaupt nichts.
Intelligenz und Weitsicht, Erfahrung und Beurteilungsvermögen ist uns gegeben.
Und wir geben es wieder aus den Händen.
Das geht schief. Wenn die Ki ersteinmal durch die KI angelernt wird um selbst zu entscheiden können wir einpacken.

 

[Lichtschachtsucher]

Fake News, Hetze und Propaganda, verdrehen von Tatsachen hat es schon immer gegeben, erst gedruckt, später bei der Wochenschau.
Heutzutage ist es dank Social Media und KI noch sehr viel einfacher und bin ich Präsident eines Landes mache ich mir meine eigene Wahrheit.
Wahrscheinlich sind heutzutage viele genauso wenig an der Wahrheit interessiert wie vor hundert Jahren.
Hauptsache mir geht's gut.

 

[Timbre]

Bei Fotos ist es noch relativ einfach: Wir erkennen das künftig über eine Art integrierte Mini-Blockchain fürs Bild: Die Kamera macht den fälschungssicheren Anfang mit C2PA und jeder spätere Bearbeitungsschritt in Photoshop und ähnlichrn Tools wird einfach als neues, digital unterschriebenes Kettenglied angehängt, sodass man den Weg vom Sensor bis zum fertigen Foto lückenlos nachvollziehen kann. Fertig. Muss nur konsequent gelebt werden. Für Ottonormal Insta-Konsument vielleicht ein bisschen too much, aber um Fakes bei Kriegsaufnahmen usw. zu entlarven essentiell.

 

[AnjaC]

Hm… die Diskussion ist ja sehr schnell bei Medien, Politik, Social Media oder der Frage gelandet, ob KI die Menschen dümmer macht.

Darum ging es mir im Artikel eigentlich gar nicht.

Manipulierte Bilder gab es schon lange vor KI. Genauso wie Propaganda, Retuschen oder bewusst irreführende Bildunterschriften. Einige Beispiele wurden schon genannt.

Die Frage, die mich beschäftigt, ist eine andere: Wenn ein einzelnes Bild in Zukunft immer weniger als Beleg für ein tatsächliches Ereignis taugt, worauf stützt sich dann unser Vertrauen? Auf die Technik? Auf Herkunftsnachweise? Auf etablierte Medien? Oder am Ende doch auf die Menschen hinter den Bildern?

Interessant finde ich auch die mehrfach genannte Rückkehr zur Analogfotografie. Ich frage mich allerdings, ob das das eigentliche Problem löst. Ich weiß ja auch bei meinen digitalen Fotos, dass sie echt sind. Die Herausforderung beginnt doch erst bei den Bildern anderer Menschen.

Vertraut ihr dann dem Bild selbst – oder eher der Person, die es veröffentlicht hat?

(Und ja, ich weiß natürlich, dass guter Journalismus nie auf einem einzelnen Bild beruhen sollte, sondern auf mehreren voneinander unabhängigen Quellen. Gerade deshalb finde ich die Frage spannend, welche Rolle Bilder als Belege künftig überhaupt noch spielen werden.)

 

[dhm]

Grundsätzlich wurden alle "Erfindungen" und "Neuerungen" zuerst von Machtabern und vom Militär mißbraucht und so verhält es sich genauso mit allem was heute unter KI rangiert. Politik und Machinteressen werden es für ihre Ziele und Zwecke skrupellos einsetzen (passiert ja bereits global in allen Systemen) und eines Tages haben wir vielleicht oder eher wahrscheinlich auch KI generierte Präsidenten:innen. medientauglich und meinungsbildend.
Für meinen persönlichen Umgang mit Bildern und meinem Bestreben hiermit meine Erinnerungen und Verwirklichungen zu kreieren wird keine KI Bilder für mich erschaffen und mir meine Freude am kreativen schöpferischen Prozess abnehmen. Ganz abgesehen von der moralische Schere die uns Moralapostel und Sittenwächter auferlegen.

Fremdbestimmt nach irgendwelchen "Normen" von KI macht uns als schöpferische Menschen doch überflüssig. Es gaukelt uns Perfektionismus gepaart mit schöpferischer Größe vor. Paßt ja auch, sich als Gott und schaffender einzustufen und gibt allen, die keine kreativen Fähigkeiten besitzen eine Maschine an die Hand, die einem Kreativität und Können vorgaukelt.
Wir können ja meist noch nicht einmal moralisch mit dem Organismus Leben auf unserem Planeten umgehen, geschweige dasjenige achten und verstehen, was sich in Jahrtausenden entwickelt hat, noch begreifen die Genialität, die dahinter steht.
Profit und Macht und Verdrängung ist die treibende Kraft und da passt KI super rein und bald ist sie soweit entwickelt, dass es nicht mehr unterscheidbar sein wird. Da nutzen auch keine digitalen Wasserzeichen.
Insofern bleibt mir nur, meine Bilder mache ich in erster Linie nur für mich, teile sie auch gerne mit Interessenten und finde inhaltlichen Austausch anregend, meine MI (Menschliche Intelligenz) zu vervollkommnen, meine Sichtweisen zu hinterfragen und verdichte meine Bildvorstellung durchaus mit KI Handwerk aber nie um aus Wörtern Bilder kreieren zu lassen. Die KI einzusetzen um störendes im Bild oder gefühlte Stimmungen hervorzuheben - Ja.
Erst neulich habe ich mich mit KI-Support rumgeärgert hinter dem sich Dienstleister verstecken und uns mit dem abspeisen wollen was sie für richtig halten. Echt das Grauen. Und ich erwarte für meine Geld auch, dass sich Menschen meinen Problemen stellen, die sich aus ihren Produkten ergeben.
Ein klassischer Bereich ist das frühere Docma, Handwerk vermittelnd und aufzeigend, wie man zielführend das handwerkliche Können in Bildausarbeitung einsetzen kann. Heute suhlen sich die Autoren nur noch in KI generierten Bildern, tot und lediglich plakativ und philosophieren über die tolle KI.
Wenn ich mal soweit bin geh ich sterben. Für mich liegt die Sinnhaftigkeit des Menschseins jedenfalls in dem was mich schöpferisch erfüllt und es ist mir wichtig, das ich meine Vorstellungen selbst erstellen kann und diese, wenn es gelungen ist, auch für Rezipienten sich erschließen. Weil sie sich mit meiner subjektiven Wahrnehmung auseinandersetzen und Leute, die sabbern, wenn sie KI generierte Bilder erzeugen - nee, ist nicht wirklich meins. Und KI als Anerkennungsprinzip brauche ich nicht.
Bei uns sind jährlich immer die Keramiktage und daran wird mir immer sehr deutlich der Unterschied von industriell hergestellter Keramik und solcher, die Keramiker:innen erstellen, da schwingt immer etwas mit in den Produkten das von den Handwerker:innen und Künstler:innen in die Produkte eingewoben ist und mitlebt als Kraft die den Produkten innewohnen. Industriell hergestelltes mag vielleicht vollkommen wirken, bleibt aber seelenlos wie KI.
Uns solange ich so etwas noch so wahrnehmen kann, verlasse ich mich auf meine Intuition beim konsumieren und im Umgang mit Bildern und hoffe nicht abzustumpfen.

 

[new_nik]

…… nur wenn man Analog fotografiert,
und selbst vergrößert hat man die Gewissheit das keine KI im spiel ist und war.

Wer heute Fotos bearbeitet, arbeitet längst mit Kl zusammen — ob bewusst oder nicht, die meisten glauben, sie machen das Bild selbst, in Wahrheit sitzt die Kl längst mit am Regler, den jedes Handyfoto wird heute optimiert, gerechnet, geschärft und verbessert — von künstlicher Intelligenz.
Die Wahrheit ist: Kl verändert längst jedes Bild, bevor wir es überhaupt ansehen,
den früher fotografierte man Momente - heute berechnet die KI sie zuerst perfekt.

 

[W.W.]

Wenn man es so weit fasst, ist auch die Matrix-Messung von Nikon schon KI. Die ist auch schon mit mehreren 10.000 Bildern trainiert worden.

 

[Gianty]

Die Frage, die mich beschäftigt, ist eine andere: Wenn ein einzelnes Bild in Zukunft immer weniger als Beleg für ein tatsächliches Ereignis taugt, worauf stützt sich dann unser Vertrauen? Auf die Technik? Auf Herkunftsnachweise? Auf etablierte Medien? Oder am Ende doch auf die Menschen hinter den Bildern?

Die Frage wäre für mich:

Von welchen Bildern reden wir?

- Fotos der lokalen Tagespresse?
- Fotos von Großereignissen ( Sport, Krisen, Unglücke...)?
- Werbefotos?
- Portraits?
- Landschaftsfotos?
- Formal ästhetische Darstellungen?
- Bilder, um sich persönlich gut darzustellen?
- Freizeit- und Urlaubsfotos?
- Bildcomposing?
.....

In vielen Bereichen taugten auch in der analogen Fotografie ( lassen wir mal den Begleittext weg ) Bilder nicht immer als Belege für ein tatsächliches Ereignis.

Vertrauen? Wem?

- Dem Fotografen, der vor Ort oft einen ganz anderen Eindruck hat als ein späterer Betrachter der Bilder?
- Dem Bildredakteur, der vielleicht durch Ausschnitte oder Nachbearbeitung eingreift?
- Etablierten ( und oft politisch alles andere als unabhängige ) Medien?
- Herkunftsnachweise, die wer überprüft?

Ich glaube nicht, dass Bilder in Zukunft mehr oder weniger als bisher als Beleg für ein tatsächliches Ereignis taugen. Bilder werden anders als bisher eingesetzt - egal ob analog, digital oder mit KI erzeugt.

 

[new_nik]

Wenn ich in RAW fotografiere, bleibe ich vielleicht noch ein Stück weit von der KI verschont. Spätestens aber, wenn die Bilder auf den Rechner kommen, beginnt in den Bildbearbeitungsprogrammen ohnehin wieder irgendeine Form der digitalen Magie.
Und was arbeitet eigentlich für mich bei der Picture-Control-Konfiguration?
Oft sehen die JPGs schon direkt aus der Kamera erstaunlich perfekt aus.
Ist das wirklich nur ein programmierter Algorithmus?
Da bin ich mir manchmal nicht ganz sicher.
Aber ganz ehrlich: Kl hin oder her - wenn mir meine Bilder gefallen, dann haben sie ihren Zweck erfüllt.
Wenn ich wieder mehr Zeit habe, werde ich mal wieder analog fotografieren. Wobei selbst dort am Ende oft wieder ein Scanner mit seiner Software ins Spiel kommt. Vielleicht versuche ich mich stattdessen auch mal wieder an echten Vergrößerungen in der DunkelKammer.
Zum Glück habe ich nichts verkauft - so kann ich ganz entspannt experimentieren
und einfach Spaß an der Fotografie haben.

 

[calc]

Wenn ein Programm ein Bild optimiert, indem es Kontrast anpasst, Schatten aufhellt, Farben besser darstellt, Schärfe optimiert, Vignettierung oder Verzeichnungen ausgleicht, damit kann ich leben. Es geht dann darum technisch bedingte Fehler im fotografischen Prozess auszugleichen. Ob das jetzt analog oder digital erfolgt ist mir im Prinzip egal. Der Moment bleibt dokumentiert. Details des Momentes können besser wahrgenommen werden.
Problematisch ist eben, wenn eine Situation erzeugt wird, die so nicht stattgefunden hat.
Wenn es bei meiner Hochzeit geregnet hat, dann hat es eben geregnet. Brauche ich jetzt davon Bilder im Sonnenschein bei bester Belichtung? Per "Prompt"?