Когда ИИ вредит бизнесу — как работает новая страховка в Британии

Британский страховой гигант Lloyd's of London сделал шаг в будущее — теперь он покрывает убытки, которые вызывает искусственный интеллект (ИИ). Новый продукт фокусируется именно на финансовых и репутационных последствиях, возникающих из-за ошибок генеративного ИИ — в частности таких, как чат-боты или системы рекомендаций.

Как пишет Financial Times, новую страховую программу разработал стартап Armilla AI, поддержанный известным акселератором Y Combinator. Продукт уже застрахован рядом участников Lloyd's и направлен на компании, активно внедряющие ИИ в клиентскую поддержку, маркетинг, финансы и другие критические сферы.

Что покрывает страховка: не все подряд, но главное

Полис не активируется автоматически при каждой ошибке бота. По словам генерального директора Armilla Картика Рамакришнана, страховка начинает действовать только тогда, когда система работает хуже, чем заявлено. Иначе говоря, если ИИ выдает неверные советы или фабрикует факты, что приводит к ущербу для клиентов или судебным искам — страховая покроет расходы.

Речь идет о компенсации убытков, связанных с:

• распространением фейковой информации;
• финансовыми потерями клиентов из-за ложных советов;
• судебными процессами, связанными с действиями ИИ.

Искусственный интеллект уже наносит реальный ущерб

За последний год мир увидел ряд громких инцидентов, которые показали уязвимость даже известных компаний перед ИИ-ошибками. В 2024 году чат-бот Air Canada придумал несуществующую скидку, и компания была вынуждена ее предоставить. А банк Virgin Money оказался в центре скандала из-за того, что их бот заблокировал запрос клиента, ошибочно интерпретировав слово virgin.

Ранее такие инциденты частично покрывались стандартными страховыми полисами по профессиональной ответственности. Но суммы, которые реально выделялись на ИИ-ошибки, были мизерными — в пределах 25 000 долл. при общем покрытии на 5 млн долл.

Кто стоит за инновацией

Armilla, стартап из Кремниевой долины, специализируется на оценке рисков ИИ и создании инструментов для их управления. Поддержка Y Combinator, одного из самых престижных акселераторов мира, предоставила компании ресурсы для разработки этого уникального продукта.

Lloyd's of London, в свою очередь, является мировым лидером в страховании сложных и нетрадиционных рисков, от морских перевозок до киберугроз. Их сотрудничество сочетает технологическую экспертизу и страховую надежность.

Почему новый полис имеет значение для будущего бизнеса

Запуск этого продукта является сигналом для компаний: ИИ не только открывает возможности, но и требует ответственного подхода. Страховой полис снижает барьеры для внедрения ИИ, позволяя бизнесу экспериментировать с технологиями без страха катастрофических финансовых последствий. По оценкам экспертов, спрос на такие страховые продукты будет расти, поскольку использование ИИ в 2025 году станет еще более распространенным.

Кроме того, полис может стимулировать разработчиков ИИ создавать более надежные модели. Зная, что страховые компании будут оценивать производительность систем, компании-разработчики будут мотивированы инвестировать в тестирование и контроль качества.

Что дальше: тренд на страхование алгоритмических рисков

Очевидно, что рынок страхования адаптируется к новой реальности, отмечает издание. Ошибки ИИ — больше не редкость и не только техническая проблема. Это — юридический и финансовый вызов. И компании, которые хотят оставаться конкурентоспособными в будущем, вынуждены не только внедрять ИИ, но и иметь инструменты для защиты от его последствий.

Несмотря на инновационность, продукт сталкивается с вызовами. Определение "деградации производительности" ИИ остается субъективным и может вызвать споры между страховщиками и клиентами. Кроме того, высокая стоимость полисов может ограничить их доступность для малого бизнеса. Однако Armilla и Lloyd's уже работают над масштабированием продукта, чтобы сделать его более универсальным.

Как сообщалось, смоделированная учеными компания, где все должности занимали автономные ИИ-агенты от ведущих технологических компаний, столкнулась с неожиданной проблемой. Эти искусственные интеллекты, выполняя разнообразные задачи, от финансового анализа до управления проектами, оказались неспособными даже найти друг друга в рабочем чате.

Отметим также, искусственный интеллект возглавил венчурный рынок, вызвав рекордный приток инвестиций в первом квартале 2025 года. Благодаря ИИ объем инвестиций достиг самой высокой отметки за последние почти три года, составив 126,3 млрд долларов. Этот технологический прорыв стал главной движущей силой этого финансового подъема.