OpenAI е обявила, че нейни агенти с изкуствен интелект са решили за 88 часа математически проблем, свързан с уравненията на Навие–Стокс, съобщава Би Би Си. Организацията, която предлага награда за решението, е заявила, че проблемът изглежда решен, но прегледът ще отнеме време. Часове преди съобщението математикът Тристан Бъкмастър от Нюйоркския университет е поставил публично въпроса дали непубликувана работа на неговия екип може да е допринесла за резултата.

Бъкмастър работи по същата цел с Левент Алпьоге, математик и служител на конкурентната компания Anthropic. Двамата са съхранявали черновите си в Codex — инструмента на OpenAI за програмиране. По думите на Бъкмастър неговият колега е бил предупреден, че информация за напредъка им е достигнала до OpenAI, но математикът не уточнява по какъв начин. Той пита дали работата им в Codex би могла да е повлияла на разработката на компанията, като изрично подчертава, че не обвинява никого.

OpenAI отрича човек или система с изкуствен интелект в компанията да е виждал работата на другия екип преди публикуването ѝ. Първоначално компанията посочва, че макар да е малко вероятно, не може да изключи анонимизирани данни от използването на продуктите ѝ да са помогнали за усъвършенстване на моделите. Дни по-късно тя заявява, че заявките на Бъкмастър в Codex през двата месеца преди съобщението не са могли по никакъв начин да повлияят на системата. Според Би Би Си обстоятелствата около случая остават неизяснени.

Потенциалът на технологията има и конкретни примери. AlphaFold на Google DeepMind предсказва пространствената структура на белтъци — задача, която преди е изисквала продължителни лабораторни експерименти. Според репортажа моделът е направил предсказания за 200 милиона белтъчни структури за една година, а резултатите са предоставени безплатно на изследователите.

При други разработки спорът е за новостта на резултатите. DeepMind е обявила над два милиона нови кристални структури, от които около 380 000 са определени като обещаващи за получаване в лаборатория. Химиците Антъни Чийтъм и Рам Сешадри са прегледали случайна извадка и са написали в Chemistry of Materials, че още не са открили особено новаторски съединения, а много от предложенията са малки изменения на известни материали. Те настояват за по-задълбочена проверка, без да отхвърлят метода. DeepMind възразява, че е проверила новостта на всяко съединение и че дори замяната на един атом може да създаде полезен материал.

Употребата на езикови модели засяга и самите научни текстове. Би Би Си описва изследване на екипа на Дмитрий Кобак от университета в Гент върху над един милион биомедицински публикации. По характерни за генерираните текстове думи екипът открива признаци за употреба на AI в близо 90% от публикациите към декември на предходната година. Това не доказва, че научните резултати са измислени: репортажът отбелязва, че средствата за разпознаване на генериран текст са несъвършени. Пред Nature Кобак предупреждава за риска пристрастията на езиковите модели да се разпространят в научната литература.

Засегнато е и рецензирането — проверката на научните трудове от други учени преди публикуване. Екип на Уейсин Лян и Джеймс Зоу от Станфордския университет е анализирал рецензии за четири големи конференции по компютърни науки. Според резултатите до 17% от текста е бил съществено преработен с езиков модел.

Отделен риск са измислените научни позовавания. Би Би Си цитира екип от университета „Корнел“, според който през предходната година са били цитирани около 147 000 несъществуващи научни разработки при използване на AI за съставяне на библиографии. Позоваванията трябва да показват върху какви предишни изследвания стъпва даден труд и с какво той е нов. Репортажът предупреждава, че изкривяването на тази основа може да насочи учени по погрешен път, да доведе до загуба на публични средства и да забави разработването на лекарства и зелени технологии.

Издатели и научни платформи вече предприемат мерки. По данни на Би Би Си екипът на Elsevier за почтеност на научните публикации е разработил около 100 сигнала, които насочват статии към по-внимателен човешки преглед. Списанията на Nature забраняват изображения, генерирани с AI, и указват на рецензентите да не качват ръкописи в такива системи. Платформата за предварителни научни публикации arXiv налага едногодишна забрана на изследователи, подали измислени библиографски препратки.

Пушмийт Коли, който ръководи научната работа на DeepMind, защитава употребата на AI, но настоява за човешка отговорност. Пред Би Би Си той подчертава, че изследователят трябва да разбира какво е направил агентът и да поеме отговорност за него, вместо просто да зададе задача, да остави машината да напише статия и да я представи като вярна.