Будьте готовы - искусственный интеллект, как в свое время Фантомас, готов разбушеваться!
Генеративный* искусственный интеллект (ГИИ), такой как ChatGPT, угрожает подлинности и достоверности онлайн-обзоров.
Отельеры, заинтересованные в мнениях и рекомендациях своих сообществ, должны принять во внимание потенциал и угрозу (!) ГИИ в рассылке поддельных отзывов. Количество сгенерированных отзывов может вскоре затопить рынок – предупреждает известное издание Skift.
Отзывы в таком случае просто потеряют значимость. Большинство из них будет ловкими фейками.
Представитель Tripadvisor Брайан Хойт сказал, что компания держит на радаре влияние ChatGPT на циркулирующий на рынке контент.
Надо сказать, что и Skift, и Hotelier.pro уже обращались к теме фейковых отзывов – см. публикацию БОРЬБА С ФЕЙКОВЫМИ ОТЗЫВАМИ.
Между тем, созданный компанией OpenAI генеративный ИИ ChatGPT набрал миллион пользователей всего за пять дней. А первого февраля 2023 года стало известно, что студент Российского государственного гуманитарного университета (РГГУ) написал дипломную работу с помощью чат-бота ChatGPT и смог защитить её, получив оценку «удовлетворительно».
После того, как об этом написали СМИ, представители РГГУ предложили ограничить доступ к ChatGPT в образовательных организациях, поскольку чат-бот способен негативно сказаться на обучении.
«Возникшая ситуация актуализировала необходимость оперативного решения задач, связанных с разработкой инструментов распознавания использования нейросетей …», - добавили в ВУЗе.
Стоит заметить, модель GPT-3 оперирует с 175 млрд. входных параметров. Следующая крупная итерация этого проекта, GPT-4, которую OpenAI собирается довести до ума уже в 2023 году, должна будет работать уже примерно с 100 трлн доступных для тренировки параметров — что превышает количество синапсов в человеческом мозге. Бот ChatGPT построен на промежуточной версии данной языковой модели, GPT-3.5, и для её тренировки использовался массив текстов на естественных языках (статьи из «Википедии», книги, посты в соцсетях и пр.).
«Мы всегда стараемся быть на шаг впереди мошенников. ChatGPT — это новая технология, которую мы рассматриваем как вызов для обеспечения эффективности обзоров на нашей платформе», - говорит Хойт.
Тексты обзоров, сгенерированные ChatGPT, содержат отказ от ответственности, но вряд ли они будут помечены как таковые, потому что это не является обязательным требованием ни на одной платформе с отзывами.
Хотя Tripadvisor еще не опубликовала свой отчет о прозрачности обзоров за 2022 год, отчет о прозрачности обзоров за 2021 год показывает, что по меньшей мере 1 миллион отзывов из примерно 26 миллионов, представленных на сайте компании в течение этого года, были фальшивыми **.
Однако от ИИ может быть и польза. Ни компании, ни потребители не могут просмотреть 30 000 отзывов об одном месте, одном объекте, а ИИ может. Может просмотреть и проанализировать. Ранжировать отзывы, выделить интересующее.
Интересно, что семантический анализ отзывов готовит компания TravelLine.
«Прям текст будем разбирать гостей», - сообщал Александр Ешмеков, директор по работе с отелями компании TravelLine, на международном туристическом форуме Travel Hub «Содружество» в Санкт-Петербурге (см. обзор).
А вы как работаете с отзывами? Готовы к знакомству с нейросетями?
*Генеративный ИИ - это тип искусственного интеллекта, который отвечает за создание нового, оригинального контента.
**Мошенники научились воровать и голос человека: недавно стартап ElevenLabs выпустил в свет нейросеть, способную подделывать речь любым голосом.
Для генерации фейкового голосового сообщения достаточно короткого аудио, которое можно получить методом «прозвона» - когда вам звонят с незнакомого номера и просто молчат в трубку. Обезопасить себя будет сложно. Стоит придумать с родственниками и друзьями кодовую фразу, например.
Это авторский материал. Мнение редакции может не совпадать с мнением автора.
Об авторе
Павел Баскаков
- трэвел-журналист,
- эксперт по туриндустрии,
- руководитель и автор Интернет-издания World Travel Biz,
- организатор и вдохновитель трэвел-группы #TravelCourier и группы #StPetersburgHotelBrief (на FB)