U četvrtak 27. novembra a u organizaciji sajta HelloWorld.rs održan je vebinar na temu: „Kada AI pogreši, ko odgovara?“ Stručnjaci iz prava i veštačke inteligencije razgovarali su o tome ko snosi odgovornost kada AI donese pogrešnu odluku.
Panel je moderirala Branisava Subotin, Project Manager u Infostudu, a njeni sagovornici bili su:
- Denis Tul - pravni ekspert za IT pravo i odgovornost u digitalnom okruženju
- Tamara Zavišić – AI konsultant
- Dejan Grubišić - AI istraživač u kompaniji Axiom
Tamara Zavišić je istakla da većina grešaka proizlazi iz loše definisanih procesa i nekontrolisane upotrebe AI alata u kompanijama (shadow AI).Takođe dodaje da problem često nije u tehnologiji, već u tome kako je koristimo.
Dejan Grubišić je objasnio zašto modeli i dalje mogu da greše - od halucinacija do nedovoljno kvalitetnih podataka. Navodi da će AI pogrešiti, a glavno pitanje je samo da li imamo dovoljno kontrole i objašnjenja.
Pravni aspekt predstavio je Denis Tull, podsetivši da građani već imaju pravo da se usprotive automatizovanoj odluci i traže da o njima presudi čovek. Odgovornost, u praksi, zavisi od odnosa developera i kompanije koja AI primenjuje, i najčešće ide prema onome ko sistem koristi na tržištu.
Ono što se izdvojilo kao ključna poruka vebinara, sa kojom su se složili svi panelisti jeste da su AI greške neminovne, ali odgovornost ne sme biti nedefinisana. Potrebni su jasni procesi, ljudski nadzor i transparentnost kako bi se rizici držali pod kontrolom.
Ceo video vebinara dostupan je na sledećem LINKU.