Эксперт предупредил об опасности слепого доверия к ИИ

МОСКВА, 17 авг - РИА Новости.

По мере того как искусственный интеллект все активнее внедряется в рабочие процессы, вопросы безопасности корпоративной информации становятся особенно актуальными. Эксперты отмечают, что чрезмерное доверие к ИИ-системам может привести к новым рискам, в том числе к утечке конфиденциальных данных. Руководитель направления по анализу безопасности компании "Криптонит" Борис Степанов подчеркнул, что системы предотвращения утечек данных (DLP) способны защищать информацию не во всех сценариях, а главным образом внутри корпоративной инфраструктуры.

"Безусловное доверие к ИИ-агенту, который может восприниматься как обычный безопасный диалог, только повышает вероятность инцидентов. В корпоративной среде эту проблему стараются решать с помощью DLP-систем, ограничивающих передачу чувствительной информации. Но при этом важно учитывать, что такая защита работает исключительно внутри корпоративного периметра и не покрывает все возможные каналы утечки", - пояснил Степанов информационному порталу РИАМО.

Специалист также отметил, что для снижения рисков компаниям необходимо сочетать технические средства защиты с правилами кибергигиены, обучением сотрудников и контролем за тем, какие данные передаются в сторонние сервисы. В условиях растущего использования ИИ именно комплексный подход позволяет снизить вероятность ошибок и сохранить безопасность корпоративных данных.

Сегодня цифровые инструменты стали настолько привычными, что многие пользователи перестали воспринимать их как потенциальный источник риска. По словам эксперта, главная причина подобной беспечности — так называемая «цифровая лень», то есть стремление получить готовый результат без дополнительной проверки и редактирования исходных материалов. Именно из-за этого люди нередко без особых сомнений передают в нейросети данные, которые на самом деле являются конфиденциальными. Степанов отметил, что пользователи часто относятся к таким системам как к безобидным помощникам, хотя на практике это может привести к серьезным последствиям для безопасности компании.

Он пояснил, что угроза особенно возрастает в тех случаях, когда сотрудник выходит в сеть с личного устройства. В подобной ситуации системы DLP фактически оказываются бессильны, поскольку контроль за передачей данных становится затруднен или вовсе невозможен. Кроме того, сознательный обход средств защиты ради быстрой отправки файла может быть расценен как грубое нарушение внутренних правил и в отдельных случаях даже стать основанием для увольнения. Эксперт подчеркнул, что подобное поведение говорит не только о невнимательности, но и о пренебрежении базовыми нормами информационной безопасности.

Специалист также развеял распространенный миф о том, что для защиты достаточно просто удалить из текста названия компаний и имена людей. На самом деле этого недостаточно, поскольку злоумышленники могут восстановить исходный контекст по косвенным признакам. Внутренние коды, должности сотрудников, названия проектов, профессиональная терминология и другие детали нередко позволяют точно определить, о какой организации или процессе идет речь. Поэтому при работе с нейросетями и любыми внешними сервисами важно не только убирать очевидные идентификаторы, но и тщательно анализировать весь текст на наличие скрытых маркеров, по которым можно восстановить чувствительную информацию.

Даже если текст кажется обезличенным, в нем нередко остаются скрытые ноу-хау, особенности внутренних процессов и элементы бизнес-логики, которые могут представлять коммерческую тайну, подчеркнул Степанов. В современном мире, где компании все активнее внедряют цифровые инструменты, особенно важно внимательно относиться к любым данным, которые передаются в сторонние сервисы или ИИ-платформы. Любая, на первый взгляд, незначительная деталь может помочь восстановить общую картину работы организации.

«Использовать ИИ на работе не запрещено, однако делать это необходимо осознанно и с соблюдением базовых правил цифровой гигиены, — отметил специалист. — Прежде всего нужно выяснить, существует ли в компании безопасная корпоративная версия ИИ-помощника, которая работает внутри защищенного контура и не передает данные наружу. Это особенно важно для сотрудников, которые ежедневно работают с внутренней документацией, служебной перепиской и аналитическими материалами. Категорически запрещено загружать в такие системы документы с любыми ограничительными пометками — “конфиденциально”, “секретно” и подобными, а также файлы, содержащие персональные данные, сведения о клиентах, партнерах или внутренних бизнес-процессах».

Кроме того, эксперты советуют заранее проверять, какие именно данные можно использовать в ИИ-сервисах, и при необходимости обезличивать материалы еще до загрузки. Важно помнить, что даже частично очищенный текст может содержать фрагменты, по которым можно восстановить чувствительную информацию. Поэтому ответственное обращение с документами — это не формальность, а необходимое условие защиты компании от утечек, репутационных рисков и возможных юридических последствий.

Перед тем как начать работу с нейросетью, важно заранее продумать вопросы безопасности и конфиденциальности. Специалист Степанов также порекомендовал отключать в настройках сохранение чатов и использование данных для обучения модели, чтобы снизить риск передачи лишней информации. Кроме того, он советует всегда перепроверять полученные ответы, поскольку нейросетям свойственно ошибаться, неточно интерпретировать запросы и иногда выдавать недостоверные сведения. Такой подход помогает использовать искусственный интеллект более осознанно и безопасно, особенно если речь идет о личных данных, рабочих материалах или других чувствительных сведениях.

Источник и фото - ria.ru