ИИ Google Gemini занимался сканированием PDF-файлов на Google Drive без разрешения, и эту функцию нельзя отключить

В рамках более широкого продвижения ИИ в технологической индустрии, хотим мы этого или нет, похоже, что сервис Google Gemini AI теперь читает частные документы на Drive без явного разрешения пользователя, согласно сообщению Кевина Бэнкстера в Xitter. Хотя Бэнкстер обсуждает причины, по которым это может быть сбоем для таких пользователей, как он, полное отсутствие контроля над его конфиденциальной, частной информацией неприемлемо для компании уровня Google — и не предвещает ничего хорошего для будущих проблем конфиденциальности в условиях часто принудительного внедрения ИИ.

Похоже, ни служба поддержки Google, ни сам ИИ Gemini точно не знают, но у Кевина Бэнкстона есть теории, после предоставления более подробной информации в полной ветке. Вопреки первоначальному сообщению, технически это происходит в рамках Google Drive, а не конкретно Google Docs, хотя вполне вероятно, что проблема может относиться и к Docs.

Но что вызвало эту проблему? По словам ИИ Google Gemini, настройки конфиденциальности, используемые для информирования Gemini, должны быть открыто доступны, но их нет, что означает, что ИИ либо "галлюцинирует (лжет)", либо некоторые внутренние системы на серверах Google откровенно неисправны. В любом случае, это выглядит не очень хорошо, даже если эти частные данные предположительно не используются для обучения ИИ Gemini.

Более того, Бэнкстон в конце концов нашел нужный переключатель настроек... только чтобы обнаружить, что саммари Gemini в Gmail, Drive и Docs уже были отключены. Кроме того, он находился в совершенно другом месте, чем любая из веб-страниц, на которые изначально указывал бот Gemini.

Для Бэнкстона проблема, похоже, локализована в Google Drive и возникает только после нажатия кнопки Gemini хотя бы на одном документе. Соответствующий тип документа (в данном случае PDF) впоследствии будет автоматически запускать Google Gemini для всех будущих файлов того же типа, открываемых в Google Drive. Он также предполагает, что это могло быть вызвано включением им Google Workspace Labs в 2023 году, что могло переопределить предполагаемые настройки ИИ Gemini.

Даже если эта проблема ограничивается пользователями Google Workspace Labs, это довольно серьезный недостаток для тех, кто помогал Google тестировать новейшие технологии. Согласие пользователя все еще имеет значение на детальном уровне, особенно когда речь идет о потенциально конфиденциальной информации, и Google полностью подвел по крайней мере один сегмент своей пользовательской базы, не оставшись верным этому принципу.