Ali umetna inteligenca matematiki pomaga do novih odkritij ali pa spodkopava način, kako znanje nastaja, se preverja in prenaša med ljudmi? To vprašanje je v ospredje postavilo odprto pismo 25 vodilnih matematikov, ki opozarjajo, da tekmovanje laboratorijev umetne inteligence za odmevnimi matematičnimi dosežki ogroža odprtost raziskovanja, avtorstvo in širšo kulturo stroke.
Po navedbah TechCruncha so vsi podpisniki prejemniki Fieldsove medalje, priznanja, ki ga pogosto opisujejo kot matematični ekvivalent Nobelove nagrade. Prav zato ima njihovo opozorilo posebno težo: ne gre za načelno zavračanje tehnologije, temveč za pomislek, da bi lahko način uvajanja zmogljivih modelov spremenil temeljna pravila znanstvenega dela.
Ne gre le za rezultat, temveč za pot do njega
Umetna inteligenca lahko matematikom pomaga na več ravneh: pri iskanju vzorcev v velikih količinah podatkov, predlaganju možnih dokaznih korakov, preverjanju formalnih dokazov, iskanju protiprimerov in raziskovanju novih domnev. Najzahtevnejši cilj pa je ustvarjanje dokazov za odprte probleme — torej za vprašanja, pri katerih rešitev še ni znana.
Prav tu matematiki vidijo tveganje. Če podjetje z velikimi računalniškimi zmogljivostmi prepozna obetavno smer raziskave, lahko po navedbah TechCruncha za poganjanje velikih jezikovnih modelov porabi več deset milijonov dolarjev in poskuša do rešitve priti hitreje kot raziskovalci, ki so prvotno razvili idejo.
V takem okolju raziskovalci morda ne bi več želeli javno deliti delnih rezultatov, osnutkov ali nepreverjenih zamisli. Odprta izmenjava, ki je pomemben del matematičnega napredka, bi se lahko umaknila tekmovanju, kdo bo prvi objavil dokaz oziroma kdo ima več računske moči.
Podpisniki opozarjajo tudi na hitrost objav. Rešitev, predstavljena kot dosežek umetne inteligence, ni nujno enaka matematično pregledanemu in splošno sprejetemu dokazu. Za to so potrebni jasen zapis, neodvisno preverjanje, razlaga novih metod in ustrezno navajanje predhodnega dela.
Obtožbe v zvezi z OpenAI in Codexom
Napetosti je dodatno zaostril profesor Univerze New York Tristan Buckmaster. Ta je OpenAI obtožil, da je nanj pritiskal, naj pri pomembnem matematičnem problemu ne navede sodelavca, ki dela za Anthropic. Obtožbe v članku niso predstavljene kot neodvisno potrjene ugotovitve.
Buckmaster se je vprašal tudi, ali je OpenAI pri delu na svojem matematičnem dokazu uporabil informacije oziroma raziskovalne sledi, povezane z uporabo Codexa. Codex je OpenAIjevo orodje oziroma družina modelov, namenjena predvsem delu s programsko kodo in tehničnimi nalogami; v tem primeru je pomemben zato, ker lahko uporabniki v pogovorih in delovnih tokovih z modelom razkrivajo zamisli, osnutke ali raziskovalne smeri.
TechCrunch navaja Buckmasterjev dvom, da je OpenAI v intenzivnem večdnevnem računalniškem izvajanju modelov — ne v klasičnem hackathonu, temveč pri obsežnem poganjanju modela za iskanje rešitev — prišel do lastnega prebojnega dokaza. Članek ne ponuja dokazov, da bi OpenAI dejansko uporabil delo posameznih matematikov na tak način.
Prav tako vir ne navaja podrobnega odziva OpenAI na te očitke niti širšega pojasnila podjetja o njegovi strategiji sodelovanja z matematiki. Znano pa je, da je OpenAI po kritikah raziskovalcev na Caltechu umaknil sponzorstvo matematičnega dogodka.
Človeški element ni stranski produkt
V odprtem pismu matematiki poudarjajo, da vrednost njihovega dela ni omejena na končni izrek ali na ime ob objavljenem dokazu. Matematika temelji tudi na razlagi, mentorstvu, skupnem razumevanju, postavljanju novih vprašanj in postopnem vključevanju idej v širše znanje.
To je posebej pomembno za mlajše raziskovalce. Če modeli producirajo odgovore, ki jih lahko razume le omejeno število strokovnjakov ali jih nihče ne zna zadovoljivo razložiti, bi se lahko oslabil proces učenja. Mladi matematiki ne potrebujejo zgolj pravilnega rezultata, temveč vpogled v to, zakaj pristop deluje, katere zamisli so odločilne in kako se nova rešitev navezuje na obstoječe teorije.
Pismo sledi Leidenski deklaraciji, ki jo je junija pripravila delovna skupina matematikov. Ta obravnava vpliv velikih jezikovnih modelov na matematično dokazovanje ter poziva matematike, ustanove in oblikovalce politik k premisleku o pravilih uporabe, preverljivosti, avtorstvu in odgovornosti.
Osrednja dilema zato ni, ali naj matematiki uporabljajo umetno inteligenco. Bolj relevantno vprašanje je, pod kakšnimi pogoji jo bodo uporabljali. Če bo AI služila kot orodje, ki raziskovalcem pomaga razumeti, preveriti in razviti nove ideje, lahko pospeši znanstveni napredek. Če pa bo tekmovanje za prve objave prevladalo nad preglednostjo in človeškim razumevanjem, bi lahko matematika izgubila prav tisto kulturo sodelovanja, ki je omogočila njene največje dosežke.
