Naukowcy z Wydziału Prawa i Administracji UŁ ocenią, jakie wyzwania stawia przed prawem konsumenckim rozwój sztucznej inteligencji. Zastanowią się, jak dostosować obowiązujące ramy prawne do nowych praktyk rynkowych i wskażą obszary prawa, które można zoptymalizować.

„Zadania badawcze są wprawdzie skoncentrowane na prawie i polityce konsumenckiej, jednak analizie prawniczej towarzyszyć będzie analiza etyczna, realizowana przez doświadczonego etyka. Będzie to ważny sygnał dla władz publicznych – prawodawców, sądów oraz innych interesariuszy, aby w dobie AI (ang. artificial intelligence – PAP) interesy konsumentów były właściwie zabezpieczone” – mówi dr hab. Monika Namysłowska, kierownik projektu.

Łódzcy naukowcy są przekonani, że wykorzystywanie sztucznej inteligencji na rynkach konsumenckich może rodzić daleko idące dla nas skutki, które wymagają pogłębionej analizy. Dzięki coraz lepszej znajomości naszych preferencji i słabości, AI wpływa na wybór konsumencki, na warunki oraz zakres dostępnych towarów i usług, a także na samą decyzyjność konsumentów.

Badacze podkreślają, że rola AI w codziennym życiu konsumentów nieustannie wzrasta. Przykłady to algorytmy oparte na uczeniu maszynowym, organizujące nasze codzienne życie (od tzw. „news feedów” i indywidualnych rekomendacji do spersonalizowanych cen i innych warunków dostępu do produktów i usług), funkcje rozpoznawania obrazów czy tzw. asystenci głosowi obecni w naszych smartfonach (a coraz częściej także innych inteligentnych urządzeniach), funkcje automatycznego tłumaczenia, sugestie odpowiedzi na wiadomości e-mail.

Naukowcy ocenią, jakie zagrożenia dla interesów konsumentów wynikają ze stosowania AI. Następnie sprawdzą, w jaki sposób, najczęściej, prawa konsumenckie łamie się w Polsce, Niemczech i Francji. Przeanalizują również przepisy tworzone przez Unię Europejską dotyczące handlu, nieuczciwych umów czy obowiązku informowania konsumentów. Jeśli prawnicy odnajdą luki, będą szukać stosownych przepisów w prawie ochrony danych osobowych i prawie antydyskryminacyjnym.

„Ostatnim etapem projektu będzie przedstawienie rozwiązań krótko-, średnio- i długoterminowych składających się na nowy model prawa konsumenckiego” – wyjaśnia dr hab. Namysłowska.

PAP – Nauka w Polsce, Karolina Duszczyk, kol/ ekr/

PAP Nauka w Polsce: Elon Musk przestrzegł właśnie, że za pięć lat sztuczna inteligencja stanie się sprytniejsza od ludzi. Od tego momentu ma zacząć rozwijać się wykładniczo w takim tempie, że za nią nie nadążymy. Czy to możliwe?

Krzysztof Walas: Myślę, że taki scenariusz jest możliwy i większość osób taki bieg wydarzeń przewiduje. Różnice dotyczą jednak czasu, kiedy to nastąpi, czy będzie to za kilka czy za kilkadziesiąt lat. W tej kwestii toczy się spór i to już nie tylko w środowisku naukowym, ale także w biznesie, który coraz częściej ze sztucznej inteligencji korzysta.

NwP: Czy takie systemy nie napotkają na jakieś ograniczenia, np. związane z poborem energii czy możliwościami sprzętu? Skoro biologia z jakiegoś powodu nie rozwinęła mózgu bardziej, może elektroniczne systemy też nie będą mogły tego zrobić? Z drugiej strony wytwory natury np. nie latają w kosmos, a rakiety tak…

K.W.: Może potrzebne będą nowe architektury procesorów. Wiele mówi się teraz o komputerach kwantowych, które całkowicie zmieniłyby paradygmat obliczeń. Może wręcz się okazać, że na obecne komputery – procesory, pamięci, twarde dyski będziemy patrzeć trochę tak, jak dzisiaj patrzymy na niektóre wytwory techniki z początku XX wieku. Zmiana może być totalna. Na przykład bariery energetyczne mogą okazać się zupełnie inne, niż dzisiaj nam się wydaje.

NwP: Tylko że inteligencja to jeszcze nie to samo, co świadomość. Nie wiadomo tak naprawdę, czym ona jest i jak SI będzie bez niej sobie radzić. Psychologia wskazuje jednak, że niska samoświadomość raczej prowadzi do kłopotów i destrukcyjnych działań.

K.W.: Debata na temat świadomości SI mogłaby trwać kilka dni. To złożone, filozoficzne zagadnienie. Samo zdefiniowanie świadomości jest problematyczne, bo skąd wiemy, czy ktoś jest świadomy, czy nie. Jak to teraz odnieść do maszyny? Naukowcy spierają się, na którym etapie biologiczne organizmy mogą stać się świadome. Przeniesienie tego sporu na sztuczne byty jest jeszcze bardzie karkołomne.

NwP: Świadoma, czy nie, SI może zagrażać – mówią niektórzy. Na razie jednak sztuczna inteligencja rozpoznaje twarze, uczy się stawiać diagnozy medyczne, prowadzić samochód. Dużych niebezpieczeństw tutaj nie widać.

K.W.: Możemy już teraz obserwować, że SI w niektórych wąskich dziedzinach już nas przerasta, bo bardzo dobrze operuje dużymi zbiorami danych. Takie programy mają jednak bardzo specyficzne, ograniczone zadania. Specjaliści debatują natomiast nad tym, czy może powstać system, który będzie posiadał ogólną inteligencję (ang. General Intelligence) i co się stanie, gdy taki system będzie inteligentniejszy od ludzi – czy będzie nam zagrażał.

NwP: Pytanie tylko – jak? Przecież raczej nie pozwolimy mu decydować o odpaleniu głowic jądrowych, jak to miało miejsce w „Terminatorze”.

K.W.: Sztuczna inteligencja już teraz podejmuje pewne decyzje o naszym życiu, choć możemy nie zdawać sobie z tego sprawy. Na przykład często decyduje, czy ktoś dostanie kredyt w banku. Systemy SI, na podstawie zachowań naszych i innych ludzi, rekomendują nam film, który może chcielibyśmy obejrzeć, wybierają dla nas wiadomości czy polecają zakupy.

W samochodach, takich jak np. Tesla, wiele decyzji podejmuje autopilot. Jeśli pozwoli się SI uczyć od przypadkowych ludzi, może zacząć zachowywać się nieprzyjaźnie. Tak było z chatbotem, czyli programem do konwersacji, którego jedną z implementacji przedstawił Microsoft. Firma go odłączyła, ponieważ od użytkowników nauczył się np. rasizmu. W internecie jest np. wiele hejtu. Co by było gdyby jakiś inteligentny system uczył się interakcji z ludźmi analizując wyłącznie internetowe fora?

NwP: No tak, ale te zagrożenia nie wydają się poważne. Chatbot to nie dostęp do broni, czy innych narzędzi, którymi inteligentne komputery mogłyby zaszkodzić ludziom.

K.W.: Widzę tutaj dwie możliwości. Po pierwsze, takie systemy mogą mocno wpływać na ludzi środkami niefizycznymi. Mogłyby nimi manipulować np. z pomocą mediów społecznościowych, nawet na masową skalę.

W ten sposób mogłyby np. nakłaniać ich do nienawiści choćby do sąsiadów czy innej grupy etnicznej. Wyobraźmy sobie taką sytuację w kraju, gdzie dostęp do broni jest łatwy. Sprytny program mógłby teoretycznie tak niektórych ludzi zmanipulować, aby zrobili coś złego. Komputer może nie mieć dostępu np. do broni, ale do ludzi, którzy się nią posługują.

NwP: A druga opcja?

K.W.: Druga opcja dotyczy już działań fizycznych, przez podłączone do sieci roboty. Z pomocą internetu można by w nich np. zmienić algorytmy i takie maszyny mogłyby zrobić coś, co zaszkodziłoby ludziom. Sam czasami myślę o tym, że gdyby całkowicie autonomiczny samochód mnie porwał, nie mógłbym nic zrobić. Oczywiście, kreślę tutaj czarne scenariusze. Mówimy o na razie teoretycznych, ale możliwych zagrożeniach.

NwP: Superinteligentne komputery mogłyby teoretycznie robić różne rzeczy, m.in. dlatego, że byśmy za nimi mentalnie nie nadążali. Wspomniany już Elon Musk twierdzi, że aby temu zapobiec, sami powinniśmy podłączyć się z pomocą chipów do sztucznej inteligencji. Mają do tego służyć takie układy, jak stworzony przez jego firmę Neuralink.

K.W.: W pewnym sensie na co dzień jesteśmy podłączeni do komputera, tylko bardzo wolnym łączem – klawiaturą. Różnica między tym a korzystaniem z wszczepianego chipa będzie taka, jak między chodzeniem na piechotę, a jazdą samochodem czy pociągiem. Przepływ informacji będzie dużo szybszy.

NwP: To z jednej strony może oznaczać łatwy dostęp do zasobów sztucznej inteligencji i komputerów w ogóle, ale z drugiej strony – większą możliwość manipulacji człowiekiem. Tym bardziej, że takie chipy miałyby nawet regulować wydzielanie niektórych hormonów.

K.W.: Zgadza się. Pierwotne struktury mózgu człowieka reagują szybciej niż wyższe, odpowiadające za racjonalne myślenie, bo ewolucyjnie powstały wcześniej. Odpowiadają one m.in. za tzw. reakcję walki lub ucieczki. Ponieważ tak silnie i szybko działają, ludzie często pod wpływem emocji robią coś, czego potem żałują i przepraszają. Oddziaływanie na poziom hormonów wpływałoby na te ośrodki i teoretycznie mogłoby więc być potencjalnie niebezpieczne.

NwP: Możemy, jako ludzkość się jakoś zabezpieczyć?

K.W.: Mówimy o zagrożeniach, ale pamiętajmy, że SI to przede wszystkim bardzo użyteczne narzędzie. Trzeba tylko odpowiednio się nim posługiwać. Na przykład w Unii Europejskiej powstaje kodeks etyczny regulujący rozwijanie SI. Stawia nas to trochę w gorszej pozycji na rynku niż np. USA czy Chiny, ale to chyba właściwe postępowanie.

NwP: Czyli sztuczną inteligencję trzeba dobrze wychować?

K..W: Są takie pomysły, że należy uczyć ją etycznych rzeczy, pokazywać jej wybory prowadzące do szczęścia, dobra. Wtedy, nawet gdy przerośnie ludzi możliwościami, może nagrodą będzie dla niej praca na rzecz dobra ludzkości, a nie coś innego, co mogłoby nam zaszkodzić.

NwP: Nawet wtedy jednak moglibyśmy się znaleźć w jakiejś mierze pod jej kontrolą. To się zwykle ludziom nie podoba.

K.W.: Mogłoby tak się stać, choć można by tak pokierować jej rozwojem, aby była dla ludzi systemem usługowym, doradczym.

NwP: Czy takie założenia da się tak skutecznie wprowadzić w życie, że żaden groźny system się nie wymknie spod kontroli?

K.W.: Może to być trudne, co pokazuje historia różnych badań medycznych. Są ludzie, którzy dochodzą do wniosku, że jak coś da się zrobić, to oni to zrobią, nie zważając na etykę danego przedsięwzięcia.

Podsumowując myślę, że powstrzymanie się od rozwoju sztucznej inteligencji nie jest możliwe, bo musiałby to zrobić cały świat, tak aby żaden kraj, czy korporacja nie zdobyły strategicznej przewagi, tylko dlatego, że nie powstrzymały się od badań. Jednak ważne jest, aby już teraz intensywnie pracować nad implikacjami zastosowań.

Rozmawiał Marek Matacz, PAP – Nauka w Polsce, mat/ agt/

PAP Nauka w Polsce: Internet rzeczy – to brzmi trochę zagadkowo, trochę dziwnie, a trochę zwyczajnie. Co tak naprawdę kryje się za tym pojęciem?

Dr Alek Tarkowski, prezes fundacji Centrum Cyfrowe, zajmującej się społecznym wymiarem technologii: Kluczowa jest zbitka tych dwóch prostych słów. Z jednej strony nadal mówimy o internecie, czyli o sieci telekomunikacyjnej, w której krążą różne treści i dane. Jednak druga część nazwy wskazuje, że sieć przestaje łączyć tylko urządzenia komunikacyjne czy informatyczne, takie jak komputer czy telefon. Zaczynają być do niej włączane przeróżne urządzenia, które dziesięć czy dwadzieścia lat temu nie kojarzyły nam się w ogóle z internetem.

Można tu wydzielić dwie kategorie. Pierwsza z nich to tzw. inteligentne przedmioty. Wiele osób widziało zapewne reklamę mówiącej lodówki. To oczywiście wymyślony scenariusz, ale dobrze oddaje ideę internetu rzeczy. Inteligentne przedmioty zaczynają odbierać i przesyłać informacje. Na przykład lodówka może wykryć, że staje się pusta – i zamówić odpowiednie produkty. Można tu wymienić też np. samochody, które już dzisiaj dzięki łączności z siecią mają wiele nowych funkcji, a niedługo mogą się stać całkiem autonomiczne. Miejskie hulajnogi to też internet rzeczy. Druga kategoria jest mniej widoczna. To różnego rodzaju czujniki, np. detektory ruchu, smogu, kamery miejskie. Internet rzeczy pojawia się więc we wszystkich sferach życia.

NwP: Mówi się o nim już od dawna. A jednak nie stał się dotąd wyraźnie zauważalną częścią życia.

AT: Rzeczywiście można odnieść wrażenie, że to się jeszcze nie dzieje. Na świecie jest jednak coraz więcej takich rozwiązań, w których – za pomocą algorytmów osadzonych w przedmiotach i systemach – stają się one „smart”. Analizujemy je w najnowszym raporcie pt. „AlgoPolska. Zautomatyzowane podejmowanie decyzji w służbie społeczeństwu”.

Polska potrzebuje dziesięciu lub więcej lat, aby dotarły do niej trendy z Zachodu. W USA na przykład już 25 proc. domów ma tzw. inteligentne głośniki, takie jak Google Home czy Amazon Alexa. Można z nimi rozmawiać w naturalnym języku i z ich pomocą sprawdzić pogodę, wybrać muzykę czy zrobić proste zakupy. Tymczasem w Polsce jest to wciąż mało popularne, po części dlatego, że głośniki nie obsługują polskiego języka. Decydują więc głównie czynniki rynkowe, przyzwyczajenia ludzi – a nie kwestie technologiczne.

Analogicznie np. Warszawa jest mniej „inteligentnym” miastem niż podobne, zachodnie metropolie. To opóźnienie daje nam zresztą szansę, by zorganizować internet rzeczy w sposób mądrzejszy, bardziej zrównoważony.

Pamiętajmy jednak, że prawie wszyscy mamy komórki pełne różnych czujników. Do tego można dodać inteligentne zegarki czy urządzenia do fitnessu. Te gadżety są już powszechne także w Polsce, a są ważną częścią internetu rzeczy.

NwP: A jeśli chodzi o smarty system-city?

AT: Najmniej widzimy całościowych systemów przeznaczonych dla miast, ponieważ wiążą się z tym największe inwestycje. Zresztą one mogą się w naszym kraju jeszcze nie przyjąć. Pilotaż polskiego smart city miał być przeprowadzony w Kazimierzu Dolnym. Został zawieszony ze względu na protesty mieszkańców. Polskie metropolie nie spieszą się z wdrażaniem wizji smart city – choć widać pierwsze sygnały nadchodzącej zmiany. Warszawa właśnie opracowuje politykę transformacji cyfrowej, określającej zasady wdrażania takich systemów.

NwP: Coraz szybciej rozwijają się technologie sprzyjające internetowi rzeczy, np. sztuczna inteligencja. Na ile w niedalekiej przyszłości włączone do sieci przedmioty staną się inteligentne?

AT: Przede wszystkim trzeba ostrożnie podchodzić do terminu „sztuczna inteligencja”. Kryje się za nim zarówno wizja inteligencji zachowującej się podobnie do człowieka – do czego jeszcze bardzo daleko – jak i umowna inteligencja, która uczyni różne przedmioty bardziej responsywnymi. Wątpię, aby za mojego życia możliwa była filozoficzna rozmowa z elektronicznym asystentem, ale przeprowadzenie niezobowiązującej rozmowy jest już właściwie możliwe. Większość komórek ma dzisiaj inteligentnego asystenta – ale nie traktujemy ich jako „sztuczne inteligencje”, tylko interfejsy głosowe do naszych telefonów.

NwP: Czy każdy poradzi sobie z obsługą inteligentnych rzeczy?

AT: Szczególną kategorią są specjalistyczne systemy, np. monitorujące stan powietrza, czy urządzenia medyczne. Tym będą się zajmować specjaliści. I to zwłaszcza oni muszą nabyć nowe umiejętności. Nie chodzi przy tym tylko o wiedzę techniczną, także o świadomość wyzwań społecznych i etycznych, umiejętność krytycznej oceny technologii. Im bardziej internet rzeczy trafi pod strzechy, tym bardziej istotna będzie odpowiednia świadomość wszystkich użytkowników. W świecie internetu rzeczy na nowo trzeba będzie zrozumieć prawa konsumenckie, takie kwestie jak odpowiedzialność producenta czy usługodawcy za ewentualne szkody.

Ważna też jest świadomość producentów inteligentnych urządzeń. W Niemczech powstaje Trustable Technology Mark – znak jakości produktów internetu rzeczy. Taki znak dostają produkty, które działają w sposób uczciwy i przejrzysty, dbają o swoich użytkowników. Jednym z pierwszych użytkowników znaku jest firma Vai Kai, tworząca inteligentne zabawki. To ogromna odpowiedzialność, ponieważ taki przedmiot będzie uczestniczył w wychowywaniu dzieci. Dobrze, że są firmy troszczące się o prawa użytkowników.

NwP: Czy inwigilacja nie jest największym zagrożeniem?

AT: Rzeczywiście, wraz z rozwojem internetu rzeczy możliwość inwigilacji nas wszystkich niezmiernie rośnie. Wymaga to mądrej regulacji, która umożliwi dalszy rozwój technologiczny przy zachowaniu naszych praw. W tym roku w Kalifornii zakazano stosowania w ramach smart city systemów automatycznego rozpoznawania twarzy. Uznano, że ryzyko dla prywatności przerasta ewentualne korzyści. Myśląc o bilansie strat i zysków warto też pamiętać o wartości, jaką możemy czerpać z danych zbieranych przez internet rzeczy. W tym celu musimy jednak stworzyć zasady uspołeczniania danych, które dzisiaj zazwyczaj pozostają w rękach firm komercyjnych. W Polsce rozpoczęła się w tym roku dyskusja nad tak zwanymi „data trusts” – modelami zarządzania danymi w sposób korzystny zarówno dla firm, jak i dla społeczeństwa.

Rozmawiał Marek Matacz, PAP Nauka w  Polsce