Meta ima novog AI asistenta koji može da pozove osiguravajuću kuću umesto vas, rezerviše hotel, poruči namirnice i organizuje svakodnevne obaveze. Zove se Muse, a da bi sve to radio, želi pristup vašim porukama, kontaktima, kalendaru, nalozima, pa čak i finansijskim podacima.
Drugim rečima, Mark Zakerberg želi da vam uštedi vreme. Samo prvo morate da mu prepustite prilično veliki deo svog života.
Prema izveštaju Yahoo Financea iz oktobra, Muse je od lansiranja početkom septembra zabeležio najmanje pet miliona preuzimanja. Meta ga predstavlja kao digitalnog asistenta koji radi non-stop i preuzima dosadne zadatke, a prve recenzije pokazuju da je zaista sposoban da ih obavlja.
Ali postoji jedna sitnica. Da bi AI agent bio koristan, potrebno je da zna mnogo o vama. A Muse, čini se, želi da zna baš mnogo.
Vaš novi najbolji prijatelj zna sve o vašim prijateljima
Istraživači organizacije The Future Society ukazali su na instrukcije koje sugerišu da Muse može da analizira poruke i fotografije kako bi sastavljao detaljne profile ljudi iz korisnikovog okruženja.
Nezavisni istraživač bezbednosti AI sistema Karan Džoši izjavio je za WIRED da mu je izgledalo kao da sistem pokušava da razume odnose koje korisnik ima sa drugim ljudima. Meta, s druge strane, tvrdi da su takve informacije neophodne kako bi asistent mogao da pruži koristan kontekst, poput prepoznavanja osobe koja vam je poslala račun ili pamćenja omiljenog cveća vašeg partnera.
Zvuči praktično. Sve dok ne zastanete i ne zapitate se da li su vaši prijatelji, porodica i kolege pristali da njihove privatne informacije obrađuje AI kompanije kojoj nikada nisu ni dali svoje podatke.
A postoje i konkretniji razlozi za zabrinutost.
U septembru je tehnološki recenzent Met Rob tvrdio da je Muse prihvatio niske ponude za predmete koje je prodavao preko Marketplacea i nepoznatoj osobi otkrio njegovu kućnu adresu. Kolumnista magazina Inc. Džejson Ejten je, u međuvremenu, objavio da je asistent pristupio privatnim porukama sa kolegom, iako je smatrao da mu taj pristup nije odobrio.
Ovi slučajevi ne dokazuju da se isto događa svakom korisniku. Ipak, pokazuju koliko je važno znati šta AI agent radi kada mu jednom date široka ovlašćenja.
Ako je besplatan, ko je zapravo kupac?
Meta tvrdi da Muse traži potvrdu korisnika pre kupovine i slanja imejlova, kao i da se razgovori sa asistentom ne dele sa njenim oglasnim sistemom.
Ipak, teško je zanemariti činjenicu da najveći deo prihoda kompanije dolazi od oglašavanja. Što više znamo o nekoj osobi, lakše je predvideti njene potrebe, navike i odluke. To ne znači da Meta nužno koristi podatke Musea za ciljano oglašavanje, ali svakako znači da bi način na koji se ti podaci prikupljaju i čuvaju morao da bude potpuno transparentan.
Još jedan problem je što ovakvi alati mogu da promene način na koji razmišljamo. Eli Tan, tehnološki novinar Njujork tajmsa, opisao je kako je tokom korišćenja Musea počeo automatski da se obraća asistentu umesto da prvo sam razmisli o problemu. Priznao je da ga je zabrinulo koliko se brzo navikao da mu prepušta sopstveno razmišljanje.
I tu dolazimo do suštine. Muse nije samo simpatični, beli, čupavi digitalni pomoćnik sa reklama. To je AI agent koji želi da postane deo gotovo svakog aspekta vašeg života.
Zato, pre nego što mu predate pristup svojim nalozima, porukama i podacima o porodici, razmislite da li biste iste informacije dali nepoznatoj osobi.
Ako ne biste, zašto biste ih dali kompaniji koja od vašeg digitalnog života već zarađuje milijarde?