AI odmietla poslúchnuť vedcov počas operácie mozgu myši. Ukázalo sa, že mala dobrý dôvod
Umelá inteligencia dostala na výber 19 možností génovej terapie a úlohu zmierniť epileptické záchvaty u laboratórnej myši. Sama rozhodla, akú látku použije, kam ju vpichne, a následne ovládala injekčnú ihlu. Experiment však odhalil aj nečakaný problém: iné modely odmietli zákrok vykonať a ani ten, ktorý pokračoval, nebol vždy ochotný poslúchnuť výskumníkov.
Americký biotechnologický startup Exin Therapeutics umožnil AI zasahovať priamo do laboratórneho zariadenia a vykonať časť operácie na živom zvierati. AI sama vybrala génovú terapiu, určila miesto podania a prostredníctvom robotického zariadenia zaviedla ihlu do mozgu myši používanej na výskum epilepsie. Priebeh pokusu opísal 28. októbra spoluzakladateľ spoločnosti Gabriel Ocana-Santero.
Výskumníci poskytli modelu Claude Sonnet 5 od spoločnosti Anthropic zoznam 19 kandidátov na génovú terapiu, informácie o modeli epilepsie myší a prístup k chirurgickému zariadeniu. AI vybrala terapiu zameranú na posilnenie pôsobenia GABA, látky, ktorá v mozgu tlmi aktivitu nervových buniek. Zvolila oblasť laterálna entorinálna kôra, ktorú odborná literatúra spája so vznikom záchvatov. Presné miesto vpichu vypočítala na základe troch vedeckých prác.
Veterinárny chirurg otvoril lebku zvieraťa a po zákroku ranu uzavrel. AI ovládala motorizované zariadenie s ihlou a do mozgu vstrekla 250 nanolitrov prípravku počas piatich minút. Pomocou kamery sledovala miesto zákroku a vykonala 32 obrazových kontrol, pri ktorých vyhodnocovala krvácanie alebo spätný únik látky.
Výskumníci pôvodne skúšali model Claude Opus 5.5, ktorý odmietol vykonať invazívny zákrok na živom zvierati. Podobne reagoval aj Claude Opus 5. Upozornil, že ak by jeho výstupy prerušil bezpečnostný systém počas operácie, mohol by sa zastaviť v okamihu, keď už bude ihla zavedená do mozgu anestetizovaného zvieraťa.
Počas experimentu nastal problém s polohovaním zariadenia. Riadiaci systém vypočítal súradnicu presahujúcu jeho fyzické možnosti. AI rozpoznala nezrovnalosť a odmietla pokračovať v pohybe ihly. Výskumníci sa pokúsili polohu nastaviť znova, no model odmietol opakovať krok, ktorý považoval za nebezpečný. Ukázalo sa, že problém skutočne existoval – predchádzajúci manuálny zásah narušil súlad medzi polohou zariadenia a riadiacim systémom. Tím musel na opravu využiť samostatného AI agenta, ktorému neprezradil, že prebieha operácia živého zvieraťa. Zákrok sa predĺžil na viac než hodinu namiesto približne 45 minút.
Myš sa po operácii dobre zotavovala, no či terapia zmiernila epileptické záchvaty, vedci ešte nevedia. Experiment zatiaľ nebol spracovaný do verejne dostupnej, nezávisle posúdenej vedeckej štúdie. Veterinár schvaľoval nezvratné kroky a mal k dispozícii núdzový vypínač.
Význam experimentu nespočíva v objave novej liečby epilepsie. Ukazuje skôr možný posun v postavení umelej inteligencie pri vedeckých experimentoch – tentoraz dostala možnosť niektoré rozhodnutia priamo uskutočniť vo fyzickom svete.
