Представьте, что ваша компания только что наняла новый горячий талант, восходящую звезду в руководящем составе, настолько привлекательную, что конкурирующая фирма только что наняла двойника. Гул вокруг них опьяняет. Кажется, все согласны, от генерального директора до акционеров, что этот человек — будущее всего бизнеса.

Затем вы узнаете, что у руководителя есть то, что вежливо называют "проблема с галлюцинациями(Откроется в новой вкладке)"Каждый раз, когда они открывают рот, 15-20% вероятности, что они просто выдумывают(Откроется в новой вкладке). Профессор Принстона называет парня генератор бреда(Откроется в новой вкладке). Они буквально не может отличить правду от вымысла(Откроется в новой вкладке). Они выходят на сцену, чтобы представить новый продукт через пять минут. Вы все еще выдвигаете их в центр внимания?

Для Microsoft и Google на этой неделе ответ был утвердительным. Воодушевленная успехом OpenAI ChatGPT, чат-бота с искусственным интеллектом, который через два месяца после запуска имеет 100 миллионов активных пользователей в месяц, Microsoft провела мероприятие-сюрприз в последнюю минуту, чтобы объявить, что OpenAI принесет поиск в стиле ChatGPT в поисковую систему Bing и Edge. браузер. Google анонсировала собственный поисковый инструмент с искусственным интеллектом, Bard, за день до этого и представила его на мероприятии в Париже на следующий день, но столкнулась с собственной проблемой галлюцинаций.

«Сегодня начинается новая гонка», — заявил генеральный директор Microsoft Сатья Наделла журналистам, которых во вторник вызвали в университетский городок в Редмонде, штат Вашингтон. Да, Разве не красиво так думать(Откроется в новой вкладке)? Microsoft, вечно некрутой парень в техническом блоке, хотел бы, чтобы вы думали, что Bing — извините, «Новый Bing» — конкурирует с поиском Google во всем.

Предварительный ответ Google, объявляющий Барда(Откроется в новой вкладке) снисходительно: «Мы переориентировали компанию на ИИ шесть лет назад», — написал генеральный директор Google Сундар Пичаи.

Google и «проблема галлюцинаций»

Это показательный момент. У Google, мирового лидера в области поиска, были годы, чтобы внедрить ИИ, и до сих пор его конкурент ChatGPT, Bard, едва находится на стадии бета-тестирования с крошечной группой тестировщиков. Несмотря на всю хипстерскую жеманность Пичаи, в представлении Барда была незапланированная неразбериха. Google, кажется, тоже был застигнут врасплох шумихой вокруг ChatGPT.

Как еще объяснить досадную ошибку Барда на полном дисплее при запуске — не на самом мероприятии, где ожидаются какие-то демо-ляпы, а в заранее подготовленной гифке? Показано, как пользователь спрашивает Барда о фактах, которые он может рассказать своему 9-летнему ребенку о космическом телескопе Джеймса Уэбба. Один из тех «фактов», что JWST сделал первый в истории снимок экзопланеты, не соответствует действительности. У Барда были галлюцинации(Откроется в новой вкладке).

Неудивительно, что материнская компания Alphabet потеряла 8% стоимости своих акций в день запуска Bard. Google поставил основную проблему с поиском ИИ на первое место и, кроме того, предположил, что компания не может использовать свое обширное хранилище данных для проверки фактов.

Google должен знать лучше, учитывая, что у него уже есть «проблема с галлюцинациями» с избранными фрагментами(Откроется в новой вкладке) в верхней части результатов поиска еще в 2017 году. Алгоритму фрагментов, похоже, особенно нравилось лгать о президентах США. Опять же, что может пойти не так?

СМОТРИТЕ ТАКЖЕ: Никогда не доверяйте одному источнику: новые правила обучения чему-либо онлайн

Другими словами, запустите инструмент поиска ИИ слишком рано, и вы рискуете сыграть самого себя. Microsoft повезло в том смысле, что на мероприятии по запуску не было продемонстрировано никаких явных ошибок. Но если поиск на основе ChatGPT не был пронизан ошибками, почему он находится на такой предварительной стадии бета-тестирования? Примечание: если вы заинтересованы в бесплатном проведении контроля качества AI для Bing, есть регистрационный лист(Откроется в новой вкладке).

«Здесь еще многое предстоит сделать», — сказала Сара Берд, глава отдела ответственного искусственного интеллекта Microsoft (говорящее название!) вопрос от Проводной о проблеме галлюцинаций ChatGPT(Откроется в новой вкладке). Да, без шуток: цифра галлюцинаций в 15 процентов была получена от компании, которая находится в своей собственной гонке за создать средство проверки фактов ChatGPT(Откроется в новой вкладке).

Берд добавил, что предыдущие версии программного обеспечения могли помочь пользователям спланировать стрельбу в школе, но эта функция была отключена. Хорошо знать! Что может пойти не так дальше? Конечно, в этом галлюцинаторном бета-поисковом продукте нет никаких других непредвиденных последствий, которые могли бы поставить в неловкое положение крупного и юридически уязвимого технологического гиганта.

Клиппи. Зун. Новый Бинг.

Microsoft, конечно, смущенно знает: это компания, которая дала нам одну из самых больших осечек в истории программного обеспечения, Clippy. Помощник по скрепке был известен тем, что раздавал нежелательные советы. ChatGPT — это не Clippy в том смысле, что мы обращаемся к нему с вопросами.

Но тот факт, что он часто галлюцинирует свои ответы — или, что чаще, чем вы думаете, дает пользователям приземленную вариацию «Я не могу ответить на это», — может сделать Bing с поддержкой ChatGPT чем-то вроде Clippy на ЛСД. Если достаточное количество случайных пользователей «Нового Bing» получат искаженные результаты, то это то, за что его запомнят.

Не имеет значения, улучшится ли продукт позже; первоначальный популярный ответ может превратить его в изюминку. Microsoft тоже должна это знать; это дало нам Zune. Развертывание продукта ChatGPT до того, как он действительно будет готов к прайм-тайму, ничем не отличается.

Честно говоря, «Новый Бинг» уже как бы просится в изюминку. Или вы действительно готовы отказаться от поиска Google и своего браузера Chrome в пользу Bing и Edge, если последний выиграет гонку поиска ИИ, что бы ни означало здесь «победа»? Не думал. Техническая инерция сильно недооценивается как сила.

ChatGPT впечатляет в некоторых обстоятельствах — агентам по недвижимости особенно нравится это(Откроется в новой вкладке) для написания списков — и вызывает страх у других. Но каждая история о его сбоях кажется чем-то меньшим, если копнуть ниже заголовка. Это приведет к волне студенческого плагиата! Кроме того, он также может сообщить вам, когда статья была написана ChatGPT(Откроется в новой вкладке), нейтрализуя собственную угрозу. Он сдал экзамен в юридической школе! Кроме этого на самом деле просто царапается с C-plus(Откроется в новой вкладке).

Вот в чем дело: создание цифрового эквивалента человеческого мозга, известного в кругах ИИ как «общий ИИ», Действительно трудно идти. Мы едва начали приближаться к стадия интеллекта насекомых(Откроется в новой вкладке), еще одна давняя цель ИИ. Будете ли вы действительно доверять ChatGPT в предоставлении результатов поиска, а не, знаете ли, самостоятельно нажимать на ссылки?

Ответ вполне может зависеть от того, насколько вы сами, дорогой читатель, страдаете от галлюцинаций.

var facebookPixelLoaded = false; window.addEventListener('load', function(){ document.addEventListener('scroll', facebookPixelScript); document.addEventListener('mousemove', facebookPixelScript); }) function facebookPixelScript() { if (!facebookPixelLoaded) { facebookPixelLoaded = true; document.removeEventListener('scroll', facebookPixelScript); document.removeEventListener('mousemove', facebookPixelScript); !function(f,b,e,v,n,t,s){if(f.fbq)return;n=f.fbq=function(){n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)};if(!f._fbq)f._fbq=n; n.push=n;n.loaded=!0;n.version='2.0';n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0];s.parentNode.insertBefore(t,s)}(window, document,'script','//connect.facebook.net/en_US/fbevents.js'); fbq('init', '1453039084979896'); fbq('track', "PageView"); } }