БЕЗОПАСНОСТЬ ПРОТИВ АВТОМАТИЗАЦИИ: ДИЛЕММА ВНЕДРЕНИЯ ИИ В ИНДУСТРИЮ ГОСТЕПРИИМСТВА

С каждым днём искусственный интеллект (ИИ) становится неотъемлемой частью жизни, включая гостиничный бизнес. Он облегчает задачи — от создания описаний до анализа отзывов, как в случае с HotelGPT от TravelLine, которым еженедельно пользуются 1500 отельеров. Однако развитие ИИ сопряжено с рисками: уязвимости, «галлюцинации» нейросетей, утечки данных через prompt-injection и потеря контроля над информацией. Эксперты предупреждают: без чётких регламентов, безопасных интеграций и локальных решений ИИ может превратиться из инструмента в угрозу. Вопрос остаётся открытым: сможет ли человек превратить ИИ из непредсказуемого «господина» в управляемого «слугу» или станет заложником цифровой покорности, принимая решения ИИ без проверки? Ответ зависит от осознанного подхода к внедрению технологий, баланса между автоматизацией и безопасностью.

В связи с чем развертывание ИИ, его экспансия требует внимания. Несколько дней назад в Кибердоме в Москве в сотрудничестве с компанией InfoWatch состоялся бизнес-завтрак. На нем выяснилось, что мечта о copilot-подобном ИИ, который говорит с ИТ-инфраструктурой, ищет уязвимости и душит киберпреступников в диалоге — пока так и остается мечтой. Как «у нас», так и «у них».

Чтобы ИИ стал вменяемым, необходимы:

• Команда
• ТЗ
• Интеграции
• Время
• Бюджет
• API между моделью и инфраструктурой

Одним словом – «welcome to реальность».

При этом обнажились такие вызовы, как:

• Уязвимость нового уровня: сам ИИ теперь — цель атак. Promt-injection и другие трюки позволяют вытаскивать конфиденциальную информацию
• Боль специалистов по информационной безопасности — хаос: бизнес подключает ИИ как попало, заливает туда всё подряд, включая «такое лучше не знать». Остановить нельзя, обезопасить — можно и нужно. Но как?
• ИИ-firewall — прослойка между человеком, ИИ и данными. Некий умный и безопасный интерфейс. Появятся ли такие разработки?
• Проблема доверия: ИИ тонет в собственных синтетических данных, плодит фейки, всё труднее понять — где реальность, а где deepfake. Похоже, нужна маркировка доверенного контента и верифицированные каналы коммуникации.
• Массовое повиновение правилам ИИ — цифровая покорность. Пользователи нажимают "Согласен", даже не читая условия или disclaimer (отказ от обязательств), и доверяют внешней цифровой среде слишком многое.

Очевидно, что нельзя пускать развитие ИИ на самотёк. Автоматизация без контроля — угроза, а не польза. Безопасность данных должна соблюдаться непременно. Нужны локальные решения и понятные регламенты.

Уязвимы отели, уязвимы люди. «Мошенники используют как продвинутые технические средства, так и искусную социальную инженерию», - приводил Hotelier.pro слова Кати Тьюринг, управляющего партнера компании BIH consulting, в публикации АТАКИ НА ТОП-МЕНЕДЖЕРОВ.

Со своей стороны предприниматель из Москвы Станислав Антипов указывает на такие серьезные минусы нейросетей, как:

• Галлюцинации. ИИ легко придумывает ответы. Может накидать ложных файлов, придумать фальшивые источники. Иногда не ленится даже нарисовать фейковые доказательства явной лжи.
• Упрощения. Стремление все запихать в один ответ приводит к сглаживанию формулировок, сокращениям и обобщениям.
• Глобализация. Сложно, практически нереально добиться локальных ответов в рамках определенной территории, облака смыслов, менталитета, сленга. ИИ не опускается до нюансов.
• Непрозрачность. Добиться от ИИ четкого трека рассуждений почти нереально. Он как оракул, просто изрекает — и живите с этим.
• Непонятливость. Ответ так сильно зависит от формата вопроса, что уже появились новые профессии: промпт-инженеры, заклинатели нейросетей ...

«Внедрять ИИ в работу отельера иль нет, Вот в чём вопрос».

Вокруг ИИ вращаются не только разговоры, споры, дискуссии, дифирамбы, упрёки, предупреждения, но и шаги бизнеса и властей в сторону (непременного) встраивания технологии ИИ в различные деловые и отчётные процессы.

В связи с этим стоит ясно понимать, о каком применении ИИ — и в каком виде! — идёт / может идти речь.

Hotelier.pro публиковал полезный расклад по ИИ, обнародованный компанией «Первый Бит» на деловой встрече в Санкт-Петербурге - см. публикацию ГАМЛЕТОВСКАЯ ДИЛЕММА ОТЕЛЬНОГО БИЗНЕСА.

Тем временем на бизнес-завтраке «Три кита современного отеля», организованном компанией TravelLine в Москве на площадке выставки MITT, Александр Галочкин, руководитель компании, признался, что год назад «у нас еще были сомнения в целесообразности применения ИИ в нашей работе», но вот прошел год.

«Мы делали HotelGPT на две недели, но он проработал уже год и пользуется устойчивым спросом у отельеров - 1500 человек используют HotelGPT каждую неделю. Там они создают описание тарифов и акций, генерируют картинки, анализируют отзывы и генерируют ответы на них», — рассказал Александр Галочкин (см. публикацию).

Таким образом, в умелых руках и со светлой головой ИИ можно «приручить» и из «игрушки странной» превратить в «Мухтар, ко мне!». По крайней мере, отельерам повезло, что роль дрессировщика ИИ в гостиничной сфере взяла на себя такая опытная и компетентная компания, как TravelLine.

Это авторский материал. Мнение редакции может не совпадать с мнением автора.

Об авторе