Минцифры подготовило проект постановления Правительства РФ "О внесении изменений в постановление Правительства Российской Федерации от 18 ноября 2020 г. № 1867", который может существенно изменить устройство продаваемых в России смартфонов и планшетов. Производителей хотят обязать показывать при первом включении устройства окно выбора так называемого «системного помощника» — программы на основе искусственного интеллекта, способной взаимодействовать с операционной системой, приложениями и аппаратными функциями устройства.
Речь идет не просто об очередном приложении вроде чат-бота. Выбранному помощнику предполагается обеспечить фоновую работу, голосовую активацию, автоматическое обновление, взаимодействие с уведомлениями, системными программами и функциями телефона. Определение также включает текстовый и визуальный ввод с применением компьютерного зрения.
Что именно предлагают установить
Проект вносит изменения в постановление Правительства РФ от 18 ноября 2020 года № 1867 о предустановке российского программного обеспечения.
Существующий класс программ «голосовой помощник» предлагается заменить более широким классом — «системный помощник». Под ним понимается программа, которая:
- функционирует на основе искусственного интеллекта;
- взаимодействует с функциями устройства;
- взаимодействует с операционной системой;
- может обращаться к установленным программам;
- принимает голосовые команды;
- принимает текстовые команды;
- обрабатывает визуальную информацию с использованием компьютерного зрения.
В сводном отчете об оценке регулирующего воздействия прямо говорится, что системный помощник должен получить паритетный доступ к функциям, которыми пользуются собственные ассистенты изготовителей устройств и владельцев операционных систем.
То есть речь идет уже не об обычном приложении, а о программе, получающей особое положение внутри цифровой системы смартфона.
Как это предполагается реализовать
Наиболее вероятна комбинированная схема.
В операционную систему или прошивку устройства производитель должен будет заранее встроить:
1. непропускаемое окно выбора помощника;
2. механизм его загрузки;
3. возможность назначить его помощником по умолчанию;
4. системные интерфейсы для взаимодействия с устройством;
5. механизм предоставления и сохранения разрешений.
Само приложение помощника может загружаться после выбора пользователя. Проект не указывает, что оно обязательно должно скачиваться через RuStore. Источником может быть магазин приложений, сервер производителя, сервер правообладателя программы или специальный системный установщик.
Принципиально важно различать приложение и сам искусственный интеллект. На телефоне может находиться лишь клиент программы, тогда как распознавание речи, обработка изображений и работа большой языковой модели могут происходить на удаленных серверах.
Схема может выглядеть следующим образом: микрофон или камера → приложение на смартфоне → сервер ИИ → анализ запроса → команда операционной системе.
Проект не требует, чтобы обработка происходила локально на устройстве. Он также не запрещает облачную обработку аудио, изображений и текстов.
Какой доступ хотят предоставить помощнику
Пункт 6 новых Правил — одна из самых тревожных частей проекта. Он предусматривает предоставление и сохранение: «всех специальных разрешений на запуск и работу всех отдельных и (или) специальных функций системного помощника» в объеме, необходимом для реализации всех его функций.
Кроме того, прямо упоминаются:
- регистрация и аутентификация пользователя;
- автоматическое фоновое обновление;
- функционирование системных фоновых служб;
- работа с уведомлениями установленных программ;
- голосовая активация;
- прием и передача команд;
- взаимодействие с аппаратными и программными функциями;
- взаимодействие с операционной системой;
- взаимодействие с системными программами устройства.
Получит ли помощник доступ к микрофону
Для голосовой активации доступ к микрофону фактически необходим.
Чтобы программа реагировала на условную команду «запусти помощника», устройство должно постоянно либо периодически анализировать окружающий звук. В безопасной архитектуре ключевая фраза распознается локально и только после нее аудиозапись отправляется на сервер.
Но проект не требует именно такой архитектуры.
В нем отсутствуют:
- обязательное локальное распознавание команды активации;
- запрет передачи звука до произнесения ключевой фразы;
- ограничение продолжительности фонового аудиобуфера;
- обязательный индикатор записи;
- запрет скрытой фоновой записи;
- срок хранения аудиозаписей;
- обязанность удалить запись после выполнения команды;
- запрет использования записей для обучения ИИ.
Общие положения законодательства о частной жизни и персональных данных сохраняют силу. Однако они в основном устанавливают правовые обязанности и ответственность оператора, а не определяют безопасную архитектуру самого системного помощника.
Сможет ли ИИ расшифровывать разговоры
Да. Распознавание речи — это и есть преобразование аудио в текст.
Для выполнения голосовой команды помощник может:
- записать голос;
- передать запись на сервер;
- преобразовать ее в текст;
- определить смысл;
- выделить имена, адреса, телефоны и иные сведения;
- сохранить запрос в истории;
- связать его с учетной записью;
- использовать полученную информацию для персонализации.
Технически возможны:
- случайная активация на похожую фразу;
- запись нескольких секунд до команды;
- захват разговора находящихся рядом людей;
- продолжение записи после выполнения запроса;
- сохранение полной аудиозаписи вместо краткого текста команды.
В проекте этого нет.
Получит ли помощник доступ к камере
Определение системного помощника включает визуальный ввод и компьютерное зрение. Это может означать обработку:
- фотографии, выбранной пользователем;
- изображения с камеры;
- документов и QR-кодов;
- окружающей обстановки;
- видеопотока в реальном времени;
- содержимого экрана.
Не урегулированы важнейшие вопросы:
- может ли камера включаться голосовой командой;
- разрешен ли доступ к ней в фоновом режиме;
- возможна ли работа при заблокированном экране;
- обязательно ли показывать индикатор съемки;
- где обрабатываются изображения;
- можно ли сохранять лица и документы;
- допускается ли отправка видеопотока на сервер;
- можно ли использовать изображения для обучения моделей.
Возможен ли доступ к файлам и памяти телефона
Прямого положения о полном доступе ко всей памяти устройства в проекте нет.
Современные мобильные системы обычно изолируют приложения друг от друга. Но системный помощник при наличии необходимых разрешений и API потенциально может работать с:
- фотографиями и видеозаписями;
- выбранными файлами и документами;
- контактами;
- календарем;
- геолокацией;
- списком установленных программ;
- содержимым экрана;
- уведомлениями;
- данными, которые приложения передают ему через специальные интерфейсы.
- фрагменты личной переписки;
- банковские операции;
- одноразовые коды;
- сведения о покупках;
- рабочая информация;
- медицинские напоминания;
- данные о поездках;
- имена звонящих.
Может ли такой помощник следить за человеком
На этот вопрос нельзя честно ответить одним словом.
Проект не содержит нормы, прямо разрешающей государственную слежку. В нем нет требования передавать данные Правительству, правоохранительным органам или государственным информационным системам. Поэтому утверждать, что документ непосредственно вводит государственную систему прослушивания, было бы неправильно.
Но проект создает техническую инфраструктуру, которую потенциально можно использовать для наблюдения:
- постоянная фоновая работа;
- ожидание голосовой команды;
- доступ к микрофону;
- компьютерное зрение;
- взаимодействие с уведомлениями;
- доступ к аппаратным и программным функциям;
- связь с приложениями;
- автоматические обновления;
- сохранение специальных разрешений.
- где находится пользователь;
- какими программами пользуется;
- с кем общается;
- что покупает;
- какие места посещает;
- какие документы фотографирует;
- какие уведомления получает;
- чем интересуется;
- в какое время активен;
- какие у него политические, религиозные, медицинские или финансовые интересы.
Опасность состоит не только в возможном злонамеренном использовании. Возможны утечки, взломы, ошибки системы, случайные активации, недобросовестные сотрудники, подмена обновления, коммерческое профилирование и изменение политики обработки данных.
Где здесь риск «электронного концлагеря»
Один ИИ-помощник сам по себе еще не является «электронным концлагерем». Опасность возникает, когда несколько цифровых механизмов постепенно объединяются:
- программа получает постоянный системный доступ к устройству;
- взаимодействия пользователя сохраняются в централизованном профиле;
- данные связываются с номером телефона, учетной записью и подтвержденной личностью;
- к профилю подключаются платежи, государственные услуги, медицинские, образовательные и транспортные сервисы;
- алгоритмы начинают оценивать поведение человека и принимать решения;
- отказаться от цифрового посредника становится сложно или практически невозможно;
- государственные или частные структуры получают возможность использовать накопленные данные для контроля, ограничений и давления.
Главный долгосрочный риск состоит в изменении самой модели взаимодействия с техникой. Сегодня человек сам открывает приложение и решает, какие данные ему передать. Завтра системный ИИ сможет выступать посредником почти при любом действии: поиске, переписке, оплате, навигации, обращении за услугой, работе с документами.
Кто контролирует такого посредника, тот потенциально получает возможность:
- видеть запросы;
- формировать ответы;
- направлять выбор;
- скрывать или приоритизировать информацию;
- составлять профили;
- прогнозировать поведение;
- влиять на решения человека.
Что говорит Конституция
Статья 23 Конституции РФ гарантирует каждому право на:
- неприкосновенность частной жизни;
- личную и семейную тайну;
- защиту чести и доброго имени;
- тайну переписки, телефонных переговоров и иных сообщений.
Статья 24 Конституции запрещает сбор, хранение, использование и распространение информации о частной жизни лица без его согласия. См. текст статьи 24.
Вместе эти положения означают, что системный ИИ не может получить неограниченное право собирать сведения о человеке только потому, что тот однажды выбрал программу в окне при первом включении телефона.
Согласие должно быть осознанным, конкретным и относящимся к определенным целям. Выбор помощника нельзя автоматически приравнивать к согласию:
- на постоянную запись окружающего звука;
- на анализ всех уведомлений;
- на передачу видеопотока;
- на бессрочное хранение запросов;
- на обучение модели;
- на создание поведенческого профиля;
- на объединение данных с другими сервисами.
Почему общего закона о персональных данных недостаточно
На обработку сведений системным помощником распространяется Федеральный закон № 152-ФЗ «О персональных данных». Оператор должен определить цели обработки, не собирать избыточные сведения, обеспечить безопасность и прекратить обработку после достижения цели.
Если голос или изображение используются для установления личности, они могут рассматриваться как биометрические персональные данные. Статья 11 закона № 152-ФЗ устанавливает специальные правила для такой обработки. Текст нормы доступен в КонсультантПлюс.
Но общий закон не отвечает на специфические вопросы системного ИИ:
- сколько секунд звука допустимо записывать до команды активации;
- должен ли детектор ключевой фразы работать локально;
- можно ли передавать аудио в облако;
- вправе ли помощник видеть уведомления;
- может ли он анализировать чужие голоса;
- как поступать с людьми, случайно попавшими в кадр;
- разрешено ли объединять запросы с банковским или государственным профилем;
- можно ли использовать разговоры для обучения;
- как пользователь проверит, что удаление действительно состоялось.
Можно ли отказаться от установки
Да. При первом включении должно появиться окно со списком помощников. Пропустить его без выбора нельзя, но пользователь вправе выразить явный отказ от установки.
Это важная гарантия. Однако она неполна.
Проект не устанавливает требований к оформлению отказа. Не запрещены так называемые темные паттерны:
- большая яркая кнопка установки и малозаметная ссылка отказа;
- несколько экранов для отказа;
- пугающие предупреждения;
- предварительно отмеченные согласия;
- навязывание регистрации;
- неясное описание последствий.
Можно ли будет удалить помощника
Проект гарантирует возможность его отключения, но не гарантирует полное удаление.
Это разные действия.
Отключение может означать только снятие статуса помощника по умолчанию. При этом программа, ее компоненты, учетная запись, локальные данные и сведения на серверах могут сохраниться.
В проекте нет прямого права:
- удалить приложение;
- удалить системные службы;
- отозвать все привилегированные разрешения;
- стереть локальную историю;
- удалить серверные записи;
- запретить дальнейшее использование данных для обучения;
- получить подтверждение уничтожения сведений.
При неблагоприятном толковании программа или ее разрешения могут восстанавливаться после обновления. Проект должен прямо исключить такую возможность.
Особая опасность автоматических обновлений
Проект предусматривает фоновое обновление помощника без дополнительных действий пользователя и сохранение специальных разрешений.
Это создает риск постепенного расширения функций:
1. пользователь выбирает одну версию программы;
2. программа получает системные права;
3. затем автоматически обновляется;
4. появляются новые возможности;
5. прежние разрешения сохраняются;
6. отдельного согласия на новые способы обработки проект не требует.
Таким образом, первоначальный выбор пользователя может со временем превратиться в формальное основание для работы программы, существенно отличающейся от той, которую человек выбрал.
Необходимо законодательно закрепить: любое расширение доступа к микрофону, камере, уведомлениям, файлам, геолокации или данным приложений требует нового отдельного согласия.
Государственный доступ: что сказано и чего не сказано
В проекте нет прямой обязанности передавать собранные сведения органам власти. Это необходимо подчеркнуть, чтобы не подменять анализ предположениями.
Но если аудиозаписи, расшифровки, изображения и история действий сохраняются на сервере, они становятся массивом информации, который в предусмотренных законом случаях может быть:
- истребован в рамках уголовного производства;
- получен при проведении оперативно-разыскных мероприятий;
- изъят вместе с оборудованием и носителями;
- передан по предусмотренному законом запросу;
Чем больше данных собирается централизованно, тем выше их ценность и для коммерческих структур, и для преступников, и для государственных органов.
Поэтому лучшая защита гражданина — не обещание, что сведения будут использоваться только законно, а принцип: данные, не необходимые для выполнения конкретной команды, вообще не должны собираться и храниться.
В проекте такой принцип применительно к системному помощнику не закреплен.
Оценка регулирующего воздействия почти не рассматривает права граждан
Сводный отчет присваивает проекту низкую степень регулирующего воздействия. Общие затраты бизнеса оценены в 200,5 млн рублей за шесть лет.
Но отчет практически не рассматривает:
- риски утечки аудиозаписей;
- фоновую запись;
- ложную голосовую активацию;
- скрытое включение камеры;
- обработку разговоров третьих лиц;
- чтение уведомлений;
- ошибочные команды ИИ;
- компрометацию системных разрешений;
- объединение данных разных сервисов;
- профилирование граждан;
- последствия для несовершеннолетних;
- возможное использование данных для контроля.
Получается парадокс: риском считается то, что производитель не сможет открыть доступ помощнику, но почти не рассматривается риск того, что доступ будет открыт слишком широко.
Расходы также выглядят заниженными
В отчете указаны следующие расходы за шесть лет:
- предустановка и функционирование — 47,1 млн рублей;
- окно выбора — 27,4 млн;
- разрешения и настройка моделей — 97,5 млн;
- поисковый виджет — 28,4 млн;
- бесплатность помощника — 0;
- запрет платы за предустановку — 0.
Если исходить из 29,6 млн новых смартфонов ежегодно, то за шесть лет регулирование потенциально затронет около 177,6 млн устройств. Оцененные затраты составляют приблизительно 1,13 рубля на одно устройство.
Такая оценка вызывает вопросы. Она едва ли полностью учитывает:
- изменение операционных систем;
- разработку защищенных API;
- тестирование каждой модели;
- разные версии прошивок;
- аудит информационной безопасности;
- обработку инцидентов;
- техническую поддержку;
- серверные мощности ИИ;
- расходы на распознавание речи и изображений;
- стоимость хранения данных;
- изменение закрытых платформ вроде iOS;
- риски отказа отдельных производителей выполнять требования.
Кому проект предоставляет преимущество
Сводный отчет оценивает число российских правообладателей системных помощников всего в 2–3 компании.
В перечень предлагается включать наиболее популярную программу с интегрированной ИИ-технологией, исключительное право на которую принадлежит российскому правообладателю.
Это означает, что бесплатный доступ к десяткам миллионов устройств может получить узкий круг крупнейших цифровых экосистем.
Возникает эффект самоукрепления:
- наиболее популярная программа попадает в правительственный перечень;
- получает обязательное присутствие в окне выбора;
- получает доступ к миллионам новых устройств;
- становится еще популярнее;
- сохраняет преимущество перед небольшими конкурентами.
Особенно важно, что проект требует, чтобы интегрированная технология ИИ принадлежала самому правообладателю. Это может ограничить участие небольших разработчиков, использующих открытые или лицензированные модели.
Проблема правовой определенности
Сводный отчет утверждает, что требования сформулированы ясно и противоречий нет. Изучение документов показывает обратное.
Неясна дата вступления в силу
В одном разделе отчета упоминается 1 октября 2026 года, а в другом — вступление в силу со дня официального опубликования.
Для производителей, поставщиков и потребителей это принципиальная разница.
Не определено понятие отключения
Неясно, прекращает ли отключенный помощник:
- использовать микрофон;
- работать в фоне;
- получать обновления;
- обмениваться данными с сервером;
- сохранять разрешения.
Не гарантировано удаление
Проект говорит об отключении, но не о деинсталляции и уничтожении данных.
Нет закрытого перечня разрешений
Формула «все специальные разрешения» не отвечает принципу минимально необходимого доступа.
Неясно, что происходит после сброса
Проект требует сохранять помощника после возврата к заводским настройкам. Но сброс обычно уничтожает пользовательские настройки. Не установлено, должен ли помощник восстановиться автоматически или выбор должен быть сделан заново.
Неясен порядок загрузки
Не определено:
- откуда скачивается приложение;
- кто проверяет его подлинность;
- что происходит без интернета;
- кто отвечает за вредоносное обновление;
- какая версия считается обязательной.
Не определено, что такое собственная ИИ-технология
Исключительные права могут принадлежать на код, модель, веса, программный комплекс или отдельные компоненты. Проект не объясняет, какой именно объект должен принадлежать правообладателю.
Сравнение с Европейским союзом не снимает вопросов
Авторы ссылаются на европейский Digital Markets Act, экраны выбора и интероперабельность сторонних сервисов.
Общее направление действительно похоже: крупные платформы не должны бесконечно продвигать только собственные решения. Но европейское регулирование действует в связке с требованиями защиты данных, прозрачности, соразмерности и безопасности. В материалах Европейской комиссии отдельно рассматривается взаимодействие DMA и законодательства о персональных данных.
Российский проект берет идею системного доступа, но почти не вводит специальных гарантий от злоупотребления этим доступом.
Нельзя механически переносить антимонопольное средство в сферу системного ИИ, игнорируя то, что помощник способен получать гораздо более чувствительную информацию, чем обычный браузер или поисковая строка.
Итог
Проект не вводит словами «систему слежки» и не содержит прямой команды передавать разговоры граждан Правительству. Но он создает технически привилегированного посредника, который потенциально может получить доступ к микрофону, камере, уведомлениям, приложениям и функциям устройства.
При этом документ:
- подробно защищает доступ помощника к системе;
- гарантирует ему фоновую работу и обновления;
- требует сохранять специальные разрешения;
- не гарантирует полное удаление;
- не устанавливает закрытого перечня прав;
- не регулирует хранение аудио и видео;
- не запрещает облачную обработку;
- не запрещает профилирование;
- не устанавливает специальных гарантий от скрытого наблюдения.
Сегодня речь идет об окне выбора программы. В долгосрочной перспективе речь может идти о создании обязательной инфраструктуры, через которую искусственный интеллект будет сопровождать почти каждое цифровое действие человека. Без жестких ограничений, прозрачности и реальной возможности отказаться такая инфраструктура способна стать основой не только для удобных сервисов, но и для тотального цифрового контроля.
Свобода начинается не с возможности выбрать одного из предложенных помощников. Свобода начинается с права жить без системного цифрового посредника, полностью удалить его и быть уверенным, что микрофон, камера, переписка и повседневная жизнь не превращены в источник данных для государства или корпорации.
Сейчас у каждого из нас есть шанс изменить хоть что-то, пока наше правительство не сжило нас со свету окончательно! Идите на выборы в единый день голосования! Голосуйте за любую партию, кроме партий Единая Россия и Справедливая Россия.
Никто не решит за Вас, решить можете только Вы! Ну а если Вас всё устраивает, Вам скажут что нужно делать...
https://music.yandex.ru/playlists/a05bb1f2-4636-92c3-8a27-1e76eb97a515
