Science: производители нейрогарнитур тайно передают данные мозга для обучения ИИ

Журнал Science опубликовал отчёт, вскрывающий скрытую практику сбора данных у производителей устройств для отслеживания мозговой активности. Несколько компаний, выпускающих гарнитуры с электроэнцефалографией (ЭЭГ), используют анонимизированные показатели пользователей для обучения моделей искусственного интеллекта, не уведомляя об этом. Яркий пример — устройство Muse от компании InteraXon.

Эта гарнитура стоимостью 475 долларов помогает улучшать сон и концентрацию, однако, как выяснил Science, записанные ею сигналы передаются для обучения нейросетей. Производитель подтвердил этот факт только после прямого запроса редакции. Аудит политик конфиденциальности десятков аналогичных компаний показал, что около 33% из них не разъясняют, куда именно направляются записанные мозговые сигналы.

В 11 случаях документы касались только взаимодействия с веб-сайтом, а у четырёх разработчиков политики защиты данных отсутствовали полностью. Индустрия потребительских нейроинтерфейсов существует с начала 2010-х годов, но приток инвестиций в искусственный интеллект изменил подход к использованию собираемой информации. Теперь сигналы мозга рассматриваются как ценный ресурс для тренировки алгоритмов.

Производители обосновывают сбор данных необходимостью повышения точности продуктов. Например, стартап Piramidal в пилотном исследовании прошлого года успешно определил 9 из 10 приступов эпилепсии, обучив модель на тысячах часов записей. Эксперты отмечают, что потребительские гарнитуры сильно уступают медицинским аппаратам по качеству сигнала.

Устройства вроде Muse оснащены всего несколькими датчиками ради комфорта, тогда как лабораторные шапки содержат до 24 электродов. Кроме того, исследования, лежащие в основе большинства коммерческих продуктов, часто не соответствуют высоким научным стандартам. Несмотря на технические ограничения текущих сенсоров, специалисты по цифровой безопасности предупреждают о долгосрочных рисках.

Если алгоритмы уже способны анализировать паттерны поведения по кликам в интернете, то обработка прямых мозговых сигналов может стать следующим рубежом защиты личной информации. Отсутствие прозрачных правил передачи биометрических данных создаёт вакуум, который могут использовать рекламные сети или корпорации ИИ для создания более точных профилей пользователей. Ситуация демонстрирует пробел в регулировании рынка носимых устройств нового поколения.

Пока законодательство не успевает за развитием нейроинтерфейсов, пользователи вынуждены полагаться на добровольную прозрачность производителей. Публикация отчёта Science запускает дискуссию о необходимости стандартов обработки биометрической информации, которая в будущем может потребовать отдельного правового статуса наравне с генетическими данными.