Конфиденциальность в ИИ: красивая иллюзия

Одно из ключевых различий между разговором с ChatGPT и разговором с лицензированным специалистом таково: у ваших бесед с ИИ нет никакой юридической привилегии. Если вы говорите с терапевтом, врачом или адвокатом, ваши разговоры обычно защищены строгими правилами конфиденциальности. В большинстве случаев суд не может заставить этих специалистов раскрыть сказанное вами. С ИИ всё иначе. Как подчеркнул Сэм Альтман: «Сейчас, если вы говорите с терапевтом, адвокатом или врачом… на это распространяется юридическая привилегия… А для разговоров с ChatGPT мы этого еще не придумали». Всё, что вы вводите в ChatGPT, хранится на серверах и может быть извлечено; ни сам ИИ, ни OpenAI не несут особой юридической обязанности скрывать это от судов или правоохранительных органов.

Но эта привычка обращаться с ИИ как с дневником, терапевтом или лучшим другом несет серьезные риски, о которых большинство пользователей в моменте не думает. Когда вы в два часа ночи печатаете ИИ о своих чувствах, всё кажется личным и анонимным. Только вы и экран. ИИ ведь не станет о вас сплетничать, правда? Ощущение «безопасного слушателя» побуждает раскрывать чрезвычайно чувствительные подробности: о здоровье, личной жизни, зависимостях, денежных проблемах — о чем угодно. Возникает иллюзия анонимности и безопасности. В конце концов, чат-бот — не живой человек… будто вы говорите сами с собой. Но это только кажется.

Нет юридической защиты: разговоры с врачами, адвокатами или лицензированными терапевтами защищены законом; разговоры с ИИ — нет. На них не распространяются ни врачебная, ни адвокатская тайна, ни какое-либо правило конфиденциальности. С точки зрения закона рассказать о своих проблемах ChatGPT ближе к публикации на открытом форуме, чем к шепоту на исповеди. Доказательства в суде: всё, что вы сообщаете чат-боту, — абсолютно всё — потенциально может быть истребовано как доказательство, если вы окажетесь участником судебного спора или расследования. Достаточно судебного приказа или повестки, чтобы ИИ-компанию обязали передать релевантные переписки. Гневные тирады о начальнике, признание в схеме, которая «технически незаконна», но о которой вы лишь размышляли, или личные сомнения — всё это может оказаться в суде. Уязвимость молодежи: подростки и молодые люди особенно могут не понимать отсутствия конфиденциальности. Они выросли с технологиями и могут воспринимать ИИ как классное безопасное место, где можно выговориться. Это делает их особенно уязвимыми. Пятнадцатилетний подросток может признаться ChatGPT в депрессии или рискованном поведении, не представляя, что эти слова прочтет кто-то еще, — но юридически такие признания не защищены. Это ложное чувство безопасности может больно ударить по ним позже. Иллюзия анонимности: вам может казаться, что за экраном вы анонимны. Но если аккаунт ChatGPT привязан к почте или телефону либо вы используете устройство, связанное с вами, переписку можно отследить до вас. Даже удаление чата не гарантирует, что он исчез навсегда, как мы увидим позже. Короче говоря, беседы с ИИ ощущаются личными, но на деле это постоянные записи.

Альтман резюмировал: «Люди должны понимать: разговор с ChatGPT — не то же самое, что разговор с терапевтом. Он не является юридической тайной». Если власти постучатся в дверь, записи чатов могут быть переданы. И сейчас большинство пользователей об этом даже не подозревает.

В бракоразводном процессе: представьте, что супруг или супруга в ходе тяжелого развода использует ChatGPT как собеседника. Можно спросить: «Как спрятать банковский счет от жены?» или «Как лучше тайно переехать с детьми?» Человек просто выпускает пар или перебирает варианты, не обязательно собираясь это сделать. Но если юридическая команда второй стороны узнает о таких чатах, она может их истребовать. Адвокаты по разводам уже предупреждают клиентов: всё, что вы говорите ИИ о разводе, может быть использовано против вас. Даже небрежный вопрос вроде «Могу ли я переехать в другой штат, не сказав бывшему партнеру?» могут истолковать как доказательство недобросовестности. И не думайте, что чаты в безопасности, если вы не передали их сами: бывший партнер, имеющий доступ к вашим устройствам или облачным резервным копиям, может уже сохранить скриншоты ваших признаний ИИ. Это не теоретический риск, а очень реальный для семейных судов по всему миру.

Утечки на работе: стоит учесть и другой путь, которым ваши якобы личные чаты могут стать публичными. В начале 2023 года инженеры Samsung усвоили это на собственном опыте. Несколько сотрудников вставили в ChatGPT конфиденциальный внутренний код и коммерческую информацию в надежде получить помощь с программированием, но данные перестали быть частными: они оказались на серверах OpenAI, вне контроля Samsung. Как сообщалось, уже через несколько недель фрагменты этих конфиденциальных чатов появились во внешних данных, что вызвало серьезную панику. После этой «случайной» утечки Samsung запретила ChatGPT на корпоративных устройствах. Случай показал: всё, что вы вводите в ИИ, потенциально могут увидеть специалисты, обучающие ИИ, другие пользователи в агрегированном виде или даже поисковые системы, если вы поделились чатом. Недавний отчет действительно показал, что тысячи опубликованных диалогов ChatGPT оказались в индексе Google, потому что пользователи нажали «Поделиться», а ссылки стали публичными. Среди них были личные тревоги, рабочие планы и даже черновики заявлений об увольнении — всё лежало в открытом доступе. Чтобы потерять контроль над чатами с ИИ, не нужен ни судебный приказ, ни хакер: достаточно неверной настройки или сбоя. Урок снова тот же: то, что вы рассказываете ChatGPT, необязательно остается внутри ChatGPT.

Каждый из этих примеров подводит к одному: ваши разговоры с ИИ не так приватны, как вам кажется. Через юридическое принуждение, следственную находчивость или технические лазейки слова, прошептанные дружелюбному ИИ, могут всплыть тогда, когда вы меньше всего этого ждете. Ставки варьируются от неловкости до юридических проблем. Как жестко выразился один адвокат в X, бывшем Twitter: если вы вставляете договор или просите ChatGPT о юридической стратегии, «вы не получаете юридический совет… Вы создаете доказательства, которые могут быть истребованы. Никто не обязан вас защищать… ChatGPT не связан [этическими обязанностями] — и это может быть использовано против вас». Проще говоря, всё, что вы говорите ChatGPT, может и будет использовано против вас в суде — классическое предупреждение, примененное к ИИ.

Столкнувшись с этой тревожной реальностью, что можно сделать? Сам Сэм Альтман не хочет, чтобы люди паниковали и отказывались от потенциально полезных ИИ-инструментов. Вместо этого он призывает общество обновить законы и нормы, чтобы они поспевали за технологией. Вот несколько ключевых мер и идей, предлагаемых для защиты пользователей в эпоху ИИ-ассистентов:

Юридическая конфиденциальность ИИ-чатов: Альтман предлагает создать новые правовые нормы, которые относились бы к разговорам с ИИ так же, как к разговорам с терапевтом или адвокатом. Это могло бы означать законы, предоставляющие взаимодействию с чат-ботом определенную привилегию или право на приватность. Например, сообщения пользователя ИИ нельзя было бы использовать в суде без преодоления очень высокого порога, подобно супружеской или врачебной тайне. Для этого потребуется закон или признание судом нового вида привилегированного общения. Идея новая, но по мере того как ИИ вплетается в повседневность, законодатели нескольких стран начинают ее обсуждать.

Ограничения на использование и хранение данных: другой правовой подход — запретить использовать данные ИИ-чатов без согласия пользователя, кроме исключительных обстоятельств. Компании могут обязать удалять разговоры через короткий срок или хранить их только в зашифрованном виде, если пользователь явно не согласился на иное. Точно так же, как ваш терапевт не должен записывать сессию и передавать ее рекламодателям, ИИ-компании, возможно, должны соблюдать строгие правила ведения и использования переписки. Альтман указывал, что условия OpenAI можно изменить, если закон потребует лучшей защиты, и, похоже, он к этому открыт. Более сильные законы о приватности, например европейский GDPR, могли бы также заставить поставщиков ИИ дать пользователям возможность действительно удалять данные. Цель — сделать так, чтобы по умолчанию разговор с ИИ оставался между вами и алгоритмом, если вы не решили поделиться им сами.

Прозрачность со стороны ИИ-компаний: пока же этическая обязанность лежит и на самих компаниях. Альтман считает, что разработчики ИИ должны честно говорить пользователям об ограничениях конфиденциальности. Нужны более ясные предупреждения: всякий раз, открывая ChatGPT, пользователь должен видеть напоминание «Не сообщайте чувствительные данные: этот чат юридически не конфиденциален». Компании могли бы объяснять, что чаты могут просматриваться для модерации или обучения и передаваться властям, если этого требует закон. Сейчас такое предупреждение спрятано в мелком шрифте, но оно должно звучать громко и ясно. Надежда в том, чтобы молодые и уязвимые пользователи не доверяли ИИ свои самые темные секреты по наивности.

Образование пользователей и цифровая гигиена: помимо законов и корпоративных правил, многое зависит от обучения пользователей. Школы, родители и медиа должны доносить простую мысль: относитесь к чату с ИИ как к публичной записи, а не к личному дневнику. Дважды подумайте, прежде чем раскрывать идентифицирующие детали, незаконные намерения или что-либо, что вы не хотели бы услышать вслух в суде. Эксперты по кибербезопасности советуют соблюдать цифровую гигиену и при работе с ИИ: по возможности использовать анонимные аккаунты, отключать историю чатов при обсуждении чувствительных тем и не делиться настоящими именами, адресами или деталями, по которым вас можно отследить. Помните, что скриншоты может сделать любой, у кого есть доступ к устройству; если опасаетесь любопытных глаз в личной жизни, защищайте устройства и облачные аккаунты. Короче, не вводите в чат того, что не отправили бы в электронном письме. Вы ведь не стали бы отправлять незнакомцу по почте свой дневник или признания? Здесь нужна та же осторожность.

Откровенное предупреждение Альтмана — «нам нужны новые законы, чтобы защищать приватность пользователей, ведь многие используют ИИ как личного советника или терапевта» — вывело этот вопрос на первый план. Законодатели действительно начинают обращать на него внимание, но правовые изменения часто идут медленно. А пока каждому из нас приходится самим беречь приватность при работе с ИИ. В этом есть ирония: у нас наконец появились сверхумные чат-боты, которые кажутся эмпатичными людьми, и нам хочется доверять им как друзьям. Но пока общество не догнало технологию, использовать ИИ как доверенное лицо — всё равно что кричать свои секреты в диктофон.

Трансгуманист вы или нет, каждому, кто взаимодействует с ИИ, стоит помнить: мы всё еще живем в очень человеческой правовой системе. Слова, которые вы шепчете ИИ, могут иметь реальные последствия. Мы на неизведанной территории, где случайные беседы с машиной способны прочитать адвокаты, судьи или госслужащие, которым они никогда не предназначались. Удобство и комфорт ChatGPT позволяют легко забыть об этом риске.

До тех пор, пока законы не дадут разговорам с ИИ ту же приватность, что сеансу терапии или исповеди, вам придется заботиться о себе самим. Используйте ChatGPT в том, в чем он хорош: для мозгового штурма, учебы, развлечений и даже общих жизненных советов, — но не считайте его священным хранилищем секретов. Это скорее громкоговоритель, подключенный к облачной базе данных. Поэтому прежде чем излить душу машине, снова спросите себя: «Мне было бы нормально, если бы этот чат прочли в суде или показали моему худшему врагу?» Если нет, вероятно, лучше обсудить это с живым специалистом, связанным конфиденциальностью, или вообще оставить вне сети.

В этой странной новой эпохе отношений человека и ИИ немного здоровой паранойи очень полезно. ChatGPT может казаться другом, но юридически он вам не друг. Пока законы о приватности не догнали технологию, относитесь к каждому чату как к потенциально публичному. Цель не в том, чтобы отпугнуть всех от ИИ, а в том, чтобы помочь пользоваться им разумно и безопасно. Как говорят в правовом мире: всё, что вы скажете, может и будет использовано против вас. Теперь это относится и ко всему, что вы говорите ИИ. Так что общайтесь с ChatGPT, конечно, — только следите за тем, что говорите и печатаете: вы никогда не знаете, кто слушает.