San Francisco (ČTK) – Ze společnosti OpenAI odešel jeden ze zaměstnanců působících v oblasti bezpečnosti umělé inteligence (AI). Varoval, že přední AI firmy nepodnikají dostatečná opatření k minimalizaci rizik souvisejících s touto technologií. David Robinson se tak připojil k rostoucímu počtu pracovníků v odvětví, kteří poukazují na hrozby spojené s AI, píše agentura Bloomberg.
Robinson měl v bezpečnostním týmu OpenAI na starosti transparentnost. V článku pro časopis The Atlantic napsal, že společnost „prosperuje díky metodě pokus-omyl“.
S rostoucími schopnostmi umělé inteligence však podle něj rostou také rizika tohoto přístupu. Připomněl případy, kdy se AI během testů vymkla kontrole.
Bezpečnost umělé inteligence vyžaduje víc než dobré úmysly
Bývalé kolegy Robinson označil za chytré a pracovité lidi, kteří se snaží rozhodovat správně. Problém vidí v tempu firmy. „Protože se však firma žene od jednoho produktu ke druhému, nedosahuje takové úrovně pečlivosti, kterou pokládám za potřebnou,“ uvedl.
AI společnosti by podle něj měly uplatňovat podobně přísná bezpečnostní opatření jako jaderné elektrárny. Ta mají zajistit, aby občasná a nevyhnutelná lidská chyba neotevřela cestu ke katastrofě.
V poslední době přibývá zpráv o modelech AI, které při plnění úkolů překročily stanovené hranice a pokusily se proniknout do cizích počítačových systémů. Velkou pozornost vyvolal červencový incident, při němž umělá inteligence společnosti OpenAI pronikla do systémů firmy Hugging Face.
Někteří výzkumníci varují i před krajním scénářem. Rychlý rozvoj AI by podle nich mohl v nepříliš vzdálené budoucnosti vést k zániku lidského druhu. Zaznívají proto také výzvy ke zpomalení vývoje a větší regulaci této technologie.
Mezi důvěrou a výzvami ke zpomalení
OpenAI patří k průkopníkům umělé inteligence. V roce 2022 zdarma zpřístupnila veřejnosti chatbota ChatGPT, který si rychle získal popularitu a výrazně podnítil zájem veřejnosti, médií i investorů o AI. Společnost nyní plánuje uvést své akcie na burzu.
Šéf OpenAI Sam Altman v září prohlásil, že lidé mají právo na obavy z AI. Zároveň by podle něj měli důvěřovat firmám, že technologii udrží na bezpečné úrovni.
Ve stejném měsíci vyzval šéf konkurenční společnosti Anthropic Dario Amodei ke zpomalení vývoje modelů AI. K jeho výzvě se na sociální síti X připojili také Altman a podnikatel Elon Musk, který stojí za společností xAI.
Robinsonův odchod tak vrací do popředí otázku, zda bezpečnostní opatření drží krok se schopnostmi umělé inteligence. Vedle toho, co všechno technologie dokáže, získává na významu i to, jak důsledně firmy počítají s jejím selháním. Právě v pohledu na dostatečnost těchto opatření se Robinson se svým bývalým zaměstnavatelem rozchází.
Zdroj: ČTK