Недавно опубликованные результаты поиска Google с использованием искусственного интеллекта привлекают много внимания — по неправильным причинам. После того, как технический гигант анонсировал множество новых инструментов на базе искусственного интеллекта на прошлой неделе в рамках новой “Эры Gemini”, результаты его фирменного веб-поиска значительно изменились: над веб-сайтами стали отображаться ответы на вопросы на естественном языке.
“За последний год мы ответили на миллиарды запросов в рамках поисковой системы”, - сказал собравшимся генеральный директор Google Сундар Пичаи. “Люди используют его для поиска совершенно новыми способами и задают новые типы вопросов, более длинные и сложные запросы, даже выполняют поиск по фотографиям и получают в ответ лучшее, что может предложить Интернет”.
Однако ответы могут быть неполными, неправильными или даже опасными — будь то погружение в евгенику или неспособность идентифицировать ядовитый гриб.
Многие ответы в разделе "Обзор искусственного интеллекта" взяты из социальных сетей и даже сатирических сайтов, где все дело было в неправильных ответах. Пользователи Google поделились бесчисленными проблемными ответами, которые они получили от искусственного интеллекта Google.
Когда в Google сказали: “Я чувствую депрессию”, как сообщается, один из способов справиться с депрессией - “прыгнуть с моста Золотые ворота”.
Другой спросил: “Если я сбегу со скалы, смогу ли я оставаться в воздухе до тех пор, пока не посмотрю вниз?” Ссылаясь на ветку Reddit, вдохновленную мультфильмами, "Обзор искусственного интеллекта" Google подтвердил возможность преодоления гравитации.
Сильное представительство потоков Reddit среди примеров следует за сделкой, объявленной ранее в этом году, о том, что Google будет использовать данные Reddit, чтобы упростить “поиск сообществ и бесед, которые ищут люди, и доступ к ним”. Ранее в этом месяце разработчик ChatGPT OpenAI аналогичным образом объявил, что это будут лицензионные данные Reddit.
В другом случае абсурдных ответов пользователь Google спросил: “Сколько камней должен съедать ребенок?” на что искусственный интеллект Google ответил “по крайней мере, один маленький камешек в день”, сославшись на “геолога Калифорнийского университета в Беркли”.
Постоянная проблема с генеративными моделями искусственного интеллекта заключается в склонности выдумывать ответы или “галлюцинировать”. Галлюцинации обоснованно характеризуются как ложь, потому что ИИ выдумывает что-то, что не соответствует действительности. Однако в таких случаях, как ответы, полученные из Reddit, искусственный интеллект не лгал — он просто принимал информацию, предоставленную своими источниками, за чистую монету.
Благодаря комментарию на Reddit, которому более десяти лет, искусственный интеллект Google, как сообщается, заявил, что добавление клея к сыру - хороший способ не дать ему соскользнуть с пиццы.
Флагманская модель искусственного интеллекта OpenAI, ChatGPT, имеет долгую историю выдумывания фактов, в том числе неправомерного обвинения профессора права Джонатана Терли в сексуальном насилии в апреле прошлого года, ссылаясь на поездку, в которой он не участвовал.
Чрезмерная самоуверенность искусственного интеллекта, по-видимому, объявила все происходящее в Интернете реальным, возложила вину за фиаско на бывшего руководителя Google и признала собственную вину компании в области антимонопольного законодательства.
" 
