Министерство цифрового развития готовит законопроект, направленный на сохранение человеческого контроля при использовании искусственного интеллекта (ИИ) в жизненно важных областях. Об этом стало известно 13 февраля из публикации в «Известиях».
Ключевые сферы под контролем
В соответствии с разрабатываемым законопроектом, ИИ планируется ограничить в таких важнейших направлениях, как здравоохранение, судебная система, образование и общественная безопасность. По словам Антона Немкина, члена Комитета Госдумы по информационной политике, ненадлежащий контроль над ИИ может привести к серьезным рискам, включающим дискриминацию и алгоритмические искажения. Это может произойти в случае, если модели обучаются на неполных или предвзятых данных. Также остается открытым вопрос о том, кто несет ответственность за ошибки — разработчик, оператор или государство.
Проблемы с безопасностью и внедрение ИИ
Непредсказуемые последствия принятия решений ИИ могут породить у граждан недоверие к цифровым сервисам, так как результаты таких решений могут восприниматься как окончательные и без возможностей для пересмотра. Важно отметить, что законопроект будет направлен на согласование в Правительство РФ к концу февраля и разрабатывается с учетом мнений профильных ведомств. Тем временем, в аппарате правительства уже начат эксперимент по внедрению ИИ в формате генерации документов, анализа данных и семантического разбора нормативных актов.
К тому же, в начале февраля появились тревожные сообщения о том, что ИИ в медицинских устройствах может причинять вред пациентам. По данным, от конца 2021 года до ноября 2025 года не менее 10 человек пострадали из-за ошибки в навигационной системе TruDi, которая неверно определяла положения инструментов во время нейрохирургических операций.
Новые законодательные инициативы
Параллельно, Госдума также разрабатывает законопроект, который впервые четко определит обязанности всех участников рынка робототехники и дронов. Этот документ нацелен на учёт полного жизненного цикла продукции. Артем Шейкин, первый заместитель председателя Комитета Совета Федерации по конституционному законодательству, подчеркивает, что такой закон должен помочь предотвратить ситуации, когда ответственность за возможные риски распыляется между участниками рынка, и никто не отвечает за нарушения.
