Джимми Уэйлс, создатель Википедии, столкнулся с трудным выбором. Он хочет использовать искусственный интеллект (ИИ), чтобы упростить и ускорить работу со статьями в энциклопедии и сэкономить ресурсы. Однако он не уверен в том, как ИИ может повлиять на накопление ошибок, которые часто допускаются доступными системами, такими как GPT.
Изначально планировалось использовать ИИ для выявления ошибок в статьях, например, путем поиска противоречий или неполной информации. Однако исправление ошибок все еще остается задачей человека, и ИИ не добавляет новых ошибок.
Одной из главных проблем Википедии является ограниченный набор контента. Поскольку участникам проекта не нужно описывать все на свете, волонтеры создают статьи, основываясь на своих интересах. Это приводит к тому, что многие темы не описываются вообще, или о них есть очень мало информации. Здесь ИИ может быть очень полезен, но кто-то должен дать ему задания, что опять же приводит к ограничению выборки.
Основной опасностью использования ИИ в наполнении Википедии является то, что эта энциклопедия используется как источник знаний, в том числе, для обучения других ИИ. Любая ошибка в статье будет многократно повторена и, фактически, станет «правдой», которую все будут принимать как таковую. Учитывая масштабы распространения ИИ, это может привести к возникновению огромного количества ложных сведений, проверка которых потребует огромных усилий. Поэтому Уэйлс не спешит с принятием окончательного решения.