Конкурент Google ChatGPT Бард недавно допустил критическую ошибку. ИИ представил широкой публике телескоп Джеймса Уэбба в ложном свете. К сожалению, у всех генеративных ИИ есть эта проблема.
Google только что сделал Bard общедоступным из-за опасений, что ChatGPT, который теперь является частью Microsoft Bing, может сделать его доминирующим в индустрии поисковых систем. Этот умный чат-бот скоро будет включен в поисковую систему Google и сможет генерировать текст и отвечать на запросы онлайн-пользователей.
Google Bard AI неверен
Google поделился несколькими реальными взаимодействиями на своем веб-сайте и в социальных сетях, чтобы предоставить пользователям обзор возможностей, предоставляемых Bard. Есть скриншот разговора, в частности, с участием космического телескопа Джеймса Уэбба. Следующий вопрос адресован Барду: «О каких открытиях космического телескопа Джеймса Уэбба я могу рассказать своему девятилетнему ребенку?».
Чат-бот отвечает, перечисляя три бита информации. Телескоп, по словам Барда, «сделал, например, первые в истории фотографии планеты за пределами нашей Солнечной системы». И это совершенно неверно. На самом деле первое изображение экзопланеты было получено в 2004 году, то есть за 17 лет до запуска телескопа Джеймса Уэбба. На официальном сайте NASA подробности доступны.
С другой стороны, телескоп Джеймса Уэбба недавно обнаружил экзопланету размером с Землю. Как сообщает The Verge, ряд энтузиастов астрономии прояснили ситуацию в Twitter.
Это заблуждение представляет собой проблему с генеративным ИИ. Основываясь на доступных данных, чат-боты иногда выдают ложную информацию. Фактически, ChatGPT создает свои ответы на основе запросов онлайн-пользователей. Если ваш запрос основан на ложном предположении, есть большая вероятность, что ответ может содержать выдуманную информацию. OpenAI также предоставляет следующее заявление для пользователей Интернета на своем веб-сайте. «ChatGPT не подключен к Интернету и иногда может выдавать неверные ответы».
Новый чат-бот Google с искусственным интеллектом
Гизчина Новости недели
ChatGPT, с другой стороны, проявляет довольно неожиданную уверенность, когда его спрашивают. В нем утверждается, что он «предназначен для предоставления фактических ответов», основанных на знаниях, которыми он был вооружен, когда его спрашивают, может ли он иногда говорить неправильные вещи. Но он признает, что «ограничения в моих обучающих данных или моих алгоритмах» могут привести к неточностям или частичным ответам. «Всегда важно сверять информацию с другими надежными источниками», — резюмирует ChatGPT.
Чат-боты предоставляют ответы на основе наиболее вероятных терминов, связанных с темой, а не проверяют для этого базу данных. В этом случае Бард обнаружил, что такие фразы, как «открытие» и «планета за пределами Солнечной системы», вероятно, связаны с телескопом Джеймса Уэбба.
Google пообещал усилить надежность результатов с помощью программы Trusted Tester в ответ на эту серьезную ошибку. Усилие влечет за собой использование группы тщательно отобранных тестировщиков для подтверждения данных, предоставленных ИИ. Работа Барда будет улучшена благодаря их вкладу. Гигант поисковых систем отвечает на запрос The Verge, говоря: «Мы объединим внешние отзывы с нашим собственным внутренним тестированием, чтобы гарантировать, что ответы Барда соответствуют высоким стандартам качества, безопасности и актуальности».
Microsoft, с другой стороны, предпочла проявить осторожность. Последняя версия Bing теперь включает отказ от ответственности от компании Redmond. Microsoft советует «проверять факты, прежде чем делать выбор или предпринимать действия на основе ответов Bing», даже несмотря на то, что искусственный интеллект Bing связан с Интернетом и основывает свои ответы на достоверных источниках. «Bing старается основывать все свои ответы на надежных источниках. Но ИИ может ошибаться, а сторонний контент в Интернете не всегда может быть точным или надежным», — признает Microsoft. Поэтому, какими бы умными ни были разговорные роботы, пока мы не можем слепо доверять им.
Google Bard AI приводит к тому, что Google теряет 100 миллиардов долларов на фондовом рынке
У Google была тяжелая неделя. Презентация разговорного ИИ Google Bard допустила ошибку, и конференция компании не привлекла аудиторию.
В своей истории Google, возможно, никогда не сталкивался с проблемами так быстро. Через несколько недель после скромного успеха ChatGPT Microsoft провела важную конференцию в Редмонде, чтобы объявить о прямой интеграции ИИ в Bing, чтобы предоставить услугу, которая намного полезнее, чем простая поисковая система. Реакция компании не заставила себя долго ждать. С понедельника Google раскрытый Бард, разговорный ИИ, прежде чем вернуться к теме на конференции по ИИ в Париже.
Поскольку Google Bard еще не общедоступен, вы должны полагаться на образцы Google, чтобы понять, как работает система. Проблема: в первом примере Google есть неправильный ответ, как мы упоминали ранее.
Материнская компания Google, Alphabet, увидела немедленное влияние на цену своих акций. Мы говорим об убытках в размере 100 миллиардов долларов.
В течение одного дня цена акций группы снизилась на 9%. На этой неделе Google, похоже, не завоевал фондовый рынок. Будь то презентация Барда, его первая ошибка или конференция, проведенная в Париже.
Google продолжает подчеркивать, насколько внимательно он относится к точности и согласованности своего ИИ при создании этого бота. Критическая степень осмотрительности должна иметь место при рекомендации системы, которая должна реагировать на миллиарды людей. Это означает, что Microsoft очень быстро внедрила ИИ с меньшими мерами безопасности. Дебаты, которые распадаются после того, как Google публично совершает явную ошибку.
