Wegen KI: Sony bringt Foto-Authentisierung gegen generierte Deepfakes
Um gegen KI-Fakes vorzugehen, will Sony in einigen Kameras eine Authentisierung implementieren. Diese soll gemachten Fotos ihre Echtheit bestätigen. Falls dieses Konzept funktioniert, dürfte es in Zukunft auch bei anderen Kameraherstellern Anklang finden.
Bearbeitete Bilder erreichen schon seit Langem eine Qualität, die zumindest auf den ersten Blick nicht von echten Aufnahmen unterschieden werden kann. Durch das Aufkommen immer besserer KI-Modelle wurde dieses Problem zuletzt aber immer größer: Bearbeitete oder gar komplett erfundene Bilder können so mit wenig Aufwand erstellt und beispielsweise als Propagandawerkzeug verwendet werden.
Garantiert echte Bilder
Um dem in Zukunft entgegenzuwirken, arbeitet Sony offenbar an einer Authentisierung für Fotos. Laut einem Bericht von Techradar will das Unternehmen bald ein Update für die drei Vollformat-Kameras Alpha 9 III, Alpha 1 und Alpha 7S III veröffentlichen. Mit diesem werden die Geräte ihre Bilder dann offenbar auf irgendeine Art signieren und damit die Echtheit der Aufnahme bescheinigen können.
Eine vergleichbare Lösung gibt es schon heute von Leica. Dazu speichert die vor rund einem Monat vorgestellte M11-P zusammen mit dem Bild einige Metadaten ab, die nicht nur den Aufnahmezeitpunkt, sondern auch nachträgliche Bearbeitungen dokumentieren. In eine ähnliche Richtung dürfte vermutlich auch Sonys Update gehen. Technische Details zur Umsetzung wurden dabei zwar noch nicht verraten. Es könnte sich aber beispielsweise um Metadaten handeln, die mit einem kryptografischen Schlüssel abgesichert sind, um die Authentizität zu bestätigen.
Auch interessant: Asrock AI Quickset bringt Stable Diffusion auf AMDs RX-7000-Grafikkarten
Ob nach dem Update von Sonys Alpha-Kameras noch weitere Modelle folgen, und ob andere Kamerahersteller wie etwa Canon oder Panasonic bald mit entsprechenden Updates nachziehen werden, bleibt abzuwarten. Zudem dürfte auch spannend werden, wie sicher die hinterlegten Informationen am Ende tatsächlich sind. Bedarf dürfte für das Update dabei durchaus bestehen - denn beim aktuellen, rasanten Tempo der KI-Entwicklung, dürfte das Problem generierter Deepfakes in Zukunft nur noch größer werden.
Quelle: Techradar
Wie schon früher in SciFi Filmen gezeigt.
Dann werde nicht nur Bilder sondern auch Videos perfekt gefaked.
Um Propaganda zu betreiben oder Menschen Verbrechen anzuhängen.
Durch die K.I.s können dann nicht nur Profis Fakes erstellen.
Das wird dann sehr schwer bei den Mengen alles zu filtern und zu löschen.
Oder man muss eine SW kaufen um diverse Stuffs gegen Deep Fakes zu prüfen... schön kostenpflichtig
[Ins Forum, um diesen Inhalt zu sehen] was ist wenn die schlüssel leakt/en? dann alles als Fake abstempeln?
Wo hat das bis jetzt überhaupt funktioniert mit den schlüsseln? Meistens waren sie dann auslesbar clonebar oder was auch immer. Haben schon einige probiert. Sky und premiere können davon lieder singen
Das garantiert nur die Echtheit des Bildes aber schützt nicht davor, dass eine KI deinen Stil kopiert. Wobei es auch da schon verschiedene Ansätze gibt, Glazing für Kunst und Cloaking für Gesichtserkennung, soweit ich weiß...
ansonsten der richtige ansatz für die zukunft.
Wo Deepfake-Zertifikat-Ki? Kann ja nicht so schwer sein, an ein paar Zertifikate zum training zu kommen, wenn das Ding einfach Bilder fälschen kann. Gefädankengang Ende