Samsung Galaxy S24 będzie identyfikował obrazy generowane przez sztuczną inteligencję

Wśród funkcji sztucznej inteligencji w nowych telefonach Samsung Galaxy S24 znajduje się kopia technologii generatywnej sztucznej inteligencji Google do edycji zdjęć. Ale kiedy z niego korzystasz, Samsung chce, aby inni o tym wiedzieli.

Oprogramowanie Samsunga doda kwartet małych gwiazdek w lewym dolnym rogu obrazu, jeśli generatywna sztuczna inteligencja będzie używana do takich działań, jak zmiana położenia osób na ujęciu, powiększanie sceny lub usuwanie elementów rozpraszających tło. Ponadto Samsung doda do pliku zdjęcia niewidoczny tekst zwany metadanymi, który będzie stwierdzał, że zdjęcie zostało zmodyfikowane przez sztuczną inteligencję – powiedział Hamid Sheikh, wiceprezes Samsunga ds. inteligentnej fotografii.

„Rozumiemy, że w związku z nowymi możliwościami technologicznymi mogą pojawić się również obawy” – powiedział Sheikh podczas wydarzenia inaugurującego Samsunga Galaxy S24. „Dlatego przy każdym utworzonym obrazie dodamy do niego znak wodny i etykietę w metadanych”.

To posunięcie jest godną uwagi odpowiedzią na obawy, że sztuczna inteligencja może pozbawić nasze obrazy prawdy, podważając zaufanie, jakie pokładamy w naszej komunikacji wizualnej. Znaki wodne i metadane mogą pomóc w zapewnieniu przejrzystości w świecie pełnym fałszywych informacji i dezinformacji.

Nie jest jeszcze jasne, jak zauważalne będą ruchy Samsunga poza telefonami i oprogramowaniem galerii. „Ponieważ jest to stosunkowo nowe rozwiązanie bez ustandaryzowanego formatu, obecnie nie jest ono kompatybilne z urządzeniami innych firm” – stwierdziła firma w czwartkowym oświadczeniu. „Zawsze szukamy przyszłych możliwości kompatybilności.”

Samsung nie jest jedyną firmą pracującą nad środkami przejrzystości AI. Google używa metadanych do oznaczania obrazów generowanych przez sztuczną inteligencję. Firma Adobe stosuje bardziej szczegółowe podejście zwane Poświadczenia treści Ma na celu wyszczególnienie, kto dokonał zmian związanych ze sztuczną inteligencją i za pomocą jakich narzędzi do edycji. Jest obsługiwany przez producentów aparatów, w tym Sony i Nikon.

Samsung nie skomentował, dlaczego zastosował własne podejście.

Nowoczesna sztuczna inteligencja w telefonach oznacza zaawansowaną edycję obrazów, która pozwala uniknąć trudności związanych z żmudnym przetwarzaniem obrazów w narzędziach takich jak Photoshop. Samsung zademonstrował to, podnosząc skaczącego koszykarza w stronę obręczy do koszykówki i powiększając scenę w celu uzyskania lepszej kompozycji. Są to dość drastyczne zmiany w stosunku do oryginalnego ujęcia.

Możliwe, że ludzie usuną metadane i znaki wodne Samsunga, na przykład rozszerzając ramkę za pomocą sztucznej inteligencji, a następnie ponownie ją przycinając, aby pozbyć się znaku wodnego. Jednak ustawienia domyślne są ważne, zwłaszcza w przypadku głównego nurtu zastosowań, więc takie podejście prawdopodobnie pomoże ostrzec ludzi przed użyciem generatywnej sztucznej inteligencji do zmiany obrazu.

Nawet jeśli oszuści chcą Cię oszukać fałszywymi obrazami, metadane i znaki wodne mogą również odegrać rolę w przypadku innych osób, które chcą zapewnić pewną przejrzystość.