Необходимо избегать предоставления искусственному интеллекту полномочий на осуществление платежей без участия человека, внесение изменений в реквизиты и учетные данные, обработку конфиденциальной информации и отправку сообщений от лица персонала. Об этом заявлению «Газете.Ru» поделился заместитель генерального директора по информационной безопасности АО «КИВИ» Алексей Юдин.
По мнению Юдина, оценка рабочих задач должна производиться с учетом потенциальных последствий ошибки и степени автономии системы. Искусственный интеллект может быть использован для подготовки писем, планирования встреч или проведения предварительного анализа данных, при условии последующей проверки результатов специалистом. Существенное увеличение рисков наблюдается в ситуациях, когда модель обладает не только возможностью предлагать решения, но и выполнять их. Это особенно актуально для ИИ-агентов, которые способны самостоятельно открывать корреспонденцию, извлекать данные, получать доступ к другим системам и совершать действия, используя учетные данные сотрудника. В корпоративной среде подобная операция может быть интерпретирована как действие, выполненное человеком», — пояснил Юдин.
По словам эксперта, возрастающая опасность связана с масштабированием процессов: в то время как ошибку, допущенную сотрудником, можно своевременно обнаружить и исправить, автоматизированная система способна многократно повторять аналогичную ошибку, охватывая сотни или даже тысячи экземпляров.
Эксперт подчеркнул, что чем сложнее отменить выполненное действие и чем существеннее его последствия для клиента или организации, тем меньше оснований для полного исключения человека из рабочего процесса.
По словам Юдина, для ИИ-агентов целесообразно создание отдельных аккаунтов с ограниченными полномочиями, достаточными для выполнения поставленных задач. Он также отметил, что любые финансовые транзакции, модификация прав доступа и другие операции, требующие повышенной осторожности, должны проходить через ручное подтверждение. Кроме того, Юдин подчеркнул важность ведения подробного журнала действий системы и обеспечения возможности ее незамедлительной приостановки.
Ранее стало известно, как ИИ изменит рабочий день россиян.