Dwie z najbardziej wpływowych japońskich firm ostrzegają, że „porządek społeczny może się załamać, co doprowadzi do wojen”, jeśli sztuczna inteligencja nie zostanie ograniczona.

• W ich oświadczeniu stwierdzono, że sztuczna inteligencja może z łatwością „z pewnością kłamać i oszukiwać” swoich użytkowników
• Wezwali do wprowadzenia większej regulacji opartej na „surowych przepisach z uprawnieniami wykonawczymi”.

Dwie wiodące japońskie firmy telekomunikacyjne i medialne ostrzegły, że sztuczna inteligencja może spowodować „upadek społeczny i wojny”, jeśli rządy nie podejmą działań w celu uregulowania tej technologii.

Nippon Telegraph & Telephone (NTT) – największa japońska firma telekomunikacyjna – oraz Yomiuri Shimbun Holdings Group – właściciel największej gazety w kraju – opublikowały dzisiaj raport Wspólne oświadczenie O szybkim rozwoju generatywnej sztucznej inteligencji.

Giganci medialni dostrzegają korzyści płynące z technologii, określając ją jako „naprawdę niezbędną dla społeczeństwa”, szczególnie ze względu na jej dostępność, łatwość obsługi dla konsumentów i jej zdolność do zwiększania produktywności.

Jednak w oświadczeniu stwierdzono, że sztuczna inteligencja może „z pewnością kłamać i łatwo oszukiwać użytkowników” i może być wykorzystywana do nikczemnych celów, w tym do podważania systemu demokratycznego poprzez ingerencję „w obszary wyborów i bezpieczeństwa… w celu wyrządzenia poważnych i nieodwracalnych szkód”.

Firmy zasugerowały również, że powszechna integracja sztucznej inteligencji może zaostrzyć „gospodarkę uwagi” – pogląd, że przytłaczająca obecność informacji oznacza, że ​​ludzka uwaga staje się coraz rzadsza.

Zmusza to rządy i przedsiębiorstwa do konkurowania i opracowywania nowych sposobów przyciągania jak największej uwagi obywateli i klientów – coś, co według NTT i Yomiuri Shimbun „sprawiło, że przestrzeń informacyjna jest niezdrowa i szkodliwa dla godności jednostki” i może stać się znacznie bardziej szkodliwe wraz z pojawieniem się sztucznej inteligencji.

W odpowiedzi japońskie firmy stwierdziły, że kraje na całym świecie powinny zadbać o włączenie edukacji na temat zalet i wad sztucznej inteligencji do obowiązkowych programów nauczania w szkołach i ogłosiły „potrzebę wprowadzenia silnych ograniczeń prawnych w zakresie stosowania generatywnej sztucznej inteligencji – rygorystyczne przepisy posiadające uprawnienia wykonawcze .”

Następuje to w czasie, gdy Unia Europejska przygotowuje się do wdrożenia nowego prawodawstwa, które jest postrzegane jako najbardziej kompleksowa regulacja dotycząca sztucznej inteligencji, jaką widział dotychczas świat.

Rządy europejskie przodują obecnie w regulowaniu sztucznej inteligencji, a wszystkie 27 państw członkowskich UE opowiada się za „Ustawa o sztucznej inteligencji„Zaproponowano w grudniu.

Ustawa, która ma wejść w życie jeszcze w tym roku, dzieli różne produkty sztucznej inteligencji na cztery kategorie ryzyka, wprowadza całkowity zakaz stosowania sztucznej inteligencji uznanej za „niedopuszczalne ryzyko” oraz nakłada szereg ograniczeń i obowiązków na twórców i dostawców usług wysokiego ryzyka. Systemy.

Wszelkie systemy sztucznej inteligencji uznane za zdolne do „stosowania podprogowych, manipulacyjnych lub zwodniczych technik w celu zniekształcenia zachowania i utrudniania świadomego podejmowania decyzji” zostaną zakazane, podobnie jak wszelkie technologie, które mają na celu „wykorzystywanie słabych punktów ludzi” i klasyfikowanie ludzi według cech takich jak rasa . Lub płeć, seksualność lub zachowania społeczne.

Programiści, których sztuczna inteligencja jest uważana za obarczoną wysokim ryzykiem, muszą poddawać swoje produkty szerokiemu zakresowi kontroli w zakresie zarządzania ryzykiem, cyberbezpieczeństwa i zarządzania danymi, a także muszą zapewnić ciągły nadzór człowieka nad systemem.

Nawet systemy sztucznej inteligencji ogólnego przeznaczenia, które nie są uważane za zagrożenie dla bezpieczeństwa, nadal będą podlegać szczególnym kontrolom.

Ustawa ma zostać wdrożona latem tego roku, a zakaz wejdzie w życie sześć miesięcy później, a podmioty uznane za naruszające przepisy będą musiały zapłacić wysokie kary – choć nie jest jasne, czy osoby starsze staną przed dalszymi procesami sądowymi w związku z poważne naruszenie.

Do czasu wejścia w życie ustawy wykorzystanie sztucznej inteligencji w Europie może być w dużej mierze nieskrępowane.

Podejście przyjęte przez Unię Europejską jest znacznie bardziej wszechstronne niż podejście Stanów Zjednoczonych, ponieważ regulacje dotyczące sztucznej inteligencji są bardziej zdecentralizowane, a każdy kraj jest w dużej mierze odpowiedzialny za swoje własne ustawodawstwo.

Jednak zainteresowanie regulacją sztucznej inteligencji wzrosło – jak wynika z nowego badania, co najmniej 25 stanów USA rozważy wprowadzenie przepisów związanych ze sztuczną inteligencją w 2023 r., a 15 stanów USA przyjęło przepisy lub uchwały. Bloomberga Raport i dane z Krajowej Konferencji Ustawodawców Stanowych.

Tymczasem Biały Dom oświadczył w zeszłym miesiącu, że będzie wymagał od agencji federalnych korzystających ze sztucznej inteligencji przyjęcia „konkretnych zabezpieczeń” do 1 grudnia 2024 r. w celu ochrony praw Amerykanów i zapewnienia im bezpieczeństwa.

Biuro Zarządzania i Budżetu poleciło agencjom federalnym monitorowanie, ocenę i testowanie wpływu sztucznej inteligencji „na społeczeństwo, ograniczanie ryzyka dyskryminacji algorytmicznej i zapewnianie społeczeństwu przejrzystości w zakresie sposobu, w jaki rząd wykorzystuje sztuczną inteligencję”.

Agencje muszą także przeprowadzać oceny ryzyka oraz ustalać wskaźniki operacyjne i zarządcze.

W październiku ubiegłego roku prezydent Biden podpisał zarządzenie wykonawcze oparte na ustawie o produkcji obronnej, nakładające na twórców systemów sztucznej inteligencji, które stwarzają ryzyko dla bezpieczeństwa narodowego, gospodarki, zdrowia publicznego lub bezpieczeństwa Stanów Zjednoczonych, obowiązek udostępnienia rządowi USA wyników testów bezpieczeństwa przed ich wdrożeniem. . ze swoich produktów.

Wielu krytykowało jednak przyjęcie przez rządy przepisów dotyczących sztucznej inteligencji, argumentując, że nadmierne regulacje wprowadzane przez źle poinformowanych polityków mogą stłumić innowacje..

Inni twierdzą, że ograniczenie rozwoju sztucznej inteligencji, szczególnie do zastosowań związanych z bezpieczeństwem lub wojskiem, może narazić kraje zachodnie na bardziej zaawansowane systemy prowadzone przez konkurentów z mniejszą liczbą barier prawnych.

Stany Zjednoczone próbowały odeprzeć tę krytykę, ogłaszając plany zatrudnienia ponad 100 specjalistów ds. sztucznej inteligencji, którzy mieliby doradzać decydentom, a w marcu ogłosiły, że agencje federalne będą zobowiązane do mianowania urzędników wyższego szczebla ds. sztucznej inteligencji w ciągu 60 dni.