Sztuczna inteligencja może wyrządzić „niewiarygodne” szkody

„Niektóre wiodące firmy — w tym Microsoft — usuwają zespoły w ramach (swoich) firm, analizując etyczne implikacje narzędzi, które opracowują w szybkim tempie”.

W rezultacie, powiedział, społeczeństwo jest zagrożone.

„Staliśmy się świnkami doświadczalnymi, niejako królikami doświadczalnymi, globalnie i lokalnie, dla wielu narzędzi z rodziny GAI, które mogą powodować naprawdę zadziwiające szkody”.

Powiedział, że to tak, jakby pierwszego dnia dać studentowi medycyny skalpel i poprowadzić go na operację na otwartym sercu, aby nauczył się swojego rzemiosła.

Wymyka się wszelkim wyjaśnieniom, dlaczego te narzędzia są wprowadzane, gdy twórcy, producenci i sami prezesi mówią, że nie mają lekarstwa na nadużycia i nadużycia. [of their tools] a nawet jak ich narzędzia działają wewnętrznie”.

Wróćmy do Donalda Trumpa.

Chociaż same zdjęcia można było szybko zdemaskować, dla niektórych osób byłoby nieuchronnie za późno, aby je „odkryć”.

Gdy byłemu prezydentowi postawiono zarzuty karne, te zdjęcia wypełniły pustkę w tym, czego ludzie mogliby się spodziewać, i oszukały niektórych ludzi, aby uwierzyli, że temat zdjęcia jest prawdziwy.

I właśnie tutaj siła dezinformacji w połączeniu z najnowszymi osiągnięciami GAI stanowi potężną kombinację.

„Dzisiaj każdy może stworzyć film, kreskówkę, mema, manipulować obrazem, stworzyć syntetyczne media, sklonować twarz osoby lub odtworzyć jej głos lub głos, aby stworzyć treść, która jest wystarczająco wiarygodna, aby zmotywować ludzi do zrobienia czegoś, do uwierzenia w Coś, zapisanie się na coś, a następnie działanie zgodnie z tymi przekonaniami. To ogromna moc „- powiedział Hatutua.

Ale celem dezinformacji niekoniecznie jest twierdzenie, że dezinformacja jest prawdziwa, ale raczej kwestionowanie, czym ona jest.

„Kiedy nic nie jest absolutnie pewne ani prawdziwe, nic nie może być przedstawione jako autentyczne i prawdziwe. I to jest korzyść netto z dezinformacji. Ponieważ powoduje to niestabilność, którą nazywamy rozpadem prawdy lub zakłóceniami informacji, które zasadniczo pomagają w spisku , w dezinformacji, aw szczególności w dezinformacji, aby wycelować w demokrację w ogólności”.

Powiedział, że rzeczywiste zagrożenia związane z postępem tej technologii w sposób niekontrolowany i nieuregulowany są różnorodne i głęboko niepokojące.

Istnieje możliwość, że sztuczne zdjęcia i filmy mogą osłabić nasz wymiar sprawiedliwości, a nawet wywołać obawy dotyczące bezpieczeństwa narodowego.

„To potwór z głową hydry. Dotyczy to nie tylko sądownictwa, ale także policji, łańcucha dowodowego, dopuszczalności dowodów w sądach, to jest to, co uważamy za słuszne”.

Może to prowadzić do reperkusji giełdowych, supermarketów, może stworzyć przekonanie, że polityk powiedział coś, czego nie powiedział.

„Są to konsekwencje w świecie rzeczywistym, które już widzieliśmy w embrionalnych konstruktach w narracjach dezinformacyjnych; wpłynie to na wszystkich, niezależnie od tego, czy go użyjesz, czy nie”.

Wielka Brytania jest obecnie obecna na arenie międzynarodowej Opublikowane wytyczne dotyczące sztucznej inteligencji.

Opowiada się w nim za ogromnym potencjałem technologii w różnych sektorach, jednocześnie uznając zagrożenia dla zdrowia fizycznego i psychicznego, naruszenia prywatności i potencjalne naruszenia praw człowieka.

Hatutua jest jednym z tych, którzy wzywają decydentów z Nowej Zelandii do wczesnego i szybkiego działania w celu wprowadzenia kontroli i równowagi regulacyjnej, zanim technologia zrobi kolejny krok naprzód.

„(The Disinformation Project) napisał dziesięciopunktową analizę tego, co GAI może oznaczać dla tego kraju”, powiedział Hatutua, która obejmuje również zagrożenia i ryzyko dla bezpieczeństwa narodowego. To jest niebezpieczne. Jest to narastający problem, który nie występuje w szybkim tempie. Wyjeżdżamy i musimy zacząć o tym rozmawiać”.