Запись источника
Конфиденциальность с помощью ИИ: красивая иллюзия
Вы уверены, что разговор по душам, который у вас был с ChatGPT, останется только между вами и машиной? По данным исследователей, примерно четверть взрослого населения США уже использовали чат-ботов с искусственным интеллектом, таких как ChatGPT, — иногда для обсуждения личных проблем, от ссор в отношениях до финансовых фиаско. Они относятся к нему как к виртуальному доверенному лицу или терапевту, раскрывающему секреты поздно ночью. Но генеральный директор OpenAI Сэм Альтман решительно разрушил эту иллюзию конфиденциальности. В недавнем интервью с Тео Фоном на This Past Weekend Альтман предупредил: "Разговор с ChatGPT — это не то же самое, что с терапевтом, врачом или адвокатом. Он не защищен юридической конфиденциальностью. Если суд попросит нас, мы можем потребовать предоставить журналы чата". Да, вы правильно прочитали – ваши полуночные признания о депрессии или этой маленькой «серой зоне» подработки могут однажды отразиться эхом не в уютном окошке чата, а в зале суда. Сам Альтман настаивает, что это «очень глупо», говоря, что нам нужны новые законы, потому что «многие люди используют ИИ в качестве личного консультанта или даже в качестве терапевта». Но пока эти законы не существуют, ChatGPT не является цифровым священником или врачом — это скорее открытый микрофон для юридической вселенной, который может транслировать ваши слова с первой официальной повесткой в суд. Поэтому спросите себя прямо: готовы ли вы прямо сейчас передать прокурору скриншоты ваших самых личных разговоров с искусственным интеллектом?
Одно из ключевых различий между общением с ChatGPT и общением с лицензированным профессионалом заключается в следующем: ваши разговоры с искусственным интеллектом не имеют никаких юридических привилегий. Если вы разговариваете с терапевтом, врачом или адвокатом, ваши разговоры обычно защищают строгие законы о конфиденциальности. В суде в большинстве случаев этих специалистов невозможно заставить раскрыть то, что вы им сказали. Не так с ИИ. Как подчеркнул Сэм Альтман: «Прямо сейчас, если вы разговариваете с терапевтом, адвокатом или врачом… на это есть юридическая привилегия… И мы еще не выяснили это, когда вы разговариваете с ChatGPT». Все, что вы вводите в ChatGPT, хранится на серверах и может быть получено, и ни AI, ни OpenAI не имеют особых юридических обязанностей хранить это в секрете от судов или правоохранительных органов.
Этот пробел в защите начинает вызывать тревогу. Альтман назвал разрыв в конфиденциальности «огромной проблемой», отметив, что его необходимо быстро решить с помощью новой политики. Он даже признался, что иногда ему «боится использовать определенные элементы ИИ», потому что он не уверен, кто в конечном итоге сможет увидеть эту личную информацию. Когда даже генеральный директор OpenAI нервничает из-за того, что раскрывает свои секреты, вы понимаете, что что-то не так.
Нетрудно понять, почему люди отдают всю свою душу ChatGPT. ИИ доступен круглосуточно, 7 дней в неделю, неизменно вежлив и никогда открыто вас не осуждает. Молодые пользователи особенно привыкли использовать ChatGPT в качестве своего рода виртуального терапевта или доверенного лица, просящего совета по вопросам личного, эмоционального или даже психического здоровья. Фактически, чат-боты с искусственным интеллектом, возможно, уже сегодня являются одними из крупнейших поставщиков поддержки психического здоровья просто потому, что очень много людей обращаются к ним за советом и утешением. Сэм Альтман из OpenAI отметил эту тенденцию: все больше и больше людей – «особенно молодых людей» – используют ChatGPT для психологической поддержки, медицинских и финансовых консультаций, о которых они, возможно, не решаются обсуждать с реальным человеком.
Однако эта формирующаяся привычка относиться к ИИ как к дневнику, терапевту или лучшему другу сопряжена с серьезными рисками, которые большинство пользователей в данный момент не осознают. Когда вы пишете свои чувства в 2 часа ночи искусственному интеллекту, это кажется приватным и анонимным. Есть только ты и экран. ИИ не будет о вас сплетничать, верно? Чувство «безопасного слушателя» заставляет людей делиться чрезвычайно деликатными подробностями – о своем здоровье, личной жизни, пристрастиях, денежных проблемах и т. д. Возникает иллюзия анонимности и безопасности. В конце концов, чат-бот — это не реальный человек… это похоже на разговор с самим собой, по крайней мере, так кажется.
Но эта иллюзия может быть опасной, поскольку юридически и технически ваш чат не является анонимным. Ваши сообщения привязаны к вашей учетной записи и устройству. Они сохраняются в базах данных. Их даже можно использовать для дальнейшего обучения моделей ИИ (если вы не откажетесь). И, как мы установили, если дело дойдет до критической ситуации, эти бревна можно будет вытащить и изучить. Ваш откровенный чат с искусственным интеллектом может фактически стать письменным отчетом о вашей личной жизни. Как резко выразился один юрист в области технологий в социальных сетях: использование ChatGPT для деликатных вопросов «создает обнаруживаемые доказательства». Вы не получаете защищенный совет или сочувствие под клятвой секретности — вы создаете стенограмму, которую можно будет прочитать в суде.
Давайте разберем некоторые из часто упускаемых из виду рисков, связанных с обращением с ChatGPT как с доверенным лицом:
Отсутствие правовой защиты. Разговоры с врачами, юристами или лицензированными терапевтами защищены законом; разговоры с ИИ не имеют такой защиты. На них не распространяются правила конфиденциальности между врачом и пациентом, адвоката и клиента или какие-либо правила конфиденциальности. С точки зрения закона, рассказать о своих проблемах в ChatGPT — это скорее опубликовать их на публичном форуме, чем шептаться на исповеди. Доказательства в зале суда: все, что вы скажете чат-боту – вообще что угодно – потенциально может быть востребовано в качестве доказательства, если вы когда-нибудь попадете в юридический спор или расследование. Все, что нужно, — это постановление суда или повестка в суд, чтобы заставить компании, занимающиеся искусственным интеллектом, передать соответствующие пользовательские чаты. Те гневные напыщенные речи, которые вы написали о своем боссе, признание той «технически незаконной» схемы, которую вы обдумывали, или озвученные вами личные сомнения – все это честная игра в суде. Уязвимость молодежи. Подростки и молодые люди, в частности, могут не осознавать отсутствие приватности. Они выросли вместе с технологиями и, возможно, рассматривают ИИ как классное и безопасное пространство для выхода. Это делает их особенно уязвимыми. 15-летний подросток может признаться ChatGPT в чувстве депрессии или подробно рассказать о рискованном поведении, даже не предполагая, что эти слова могут быть прочитаны кем-то еще – но юридически эти признания не защищены. Это ложное чувство безопасности, которое может аукнуться им. Иллюзия анонимности. Вы можете подумать, что за ширмой вы анонимны. Но если ваша учетная запись ChatGPT связана с вашей электронной почтой или телефоном или если вы используете ее на привязанном к вам устройстве, ваши чаты можно отследить до вас. Даже удаление чата не является гарантией его исчезновения навсегда (как мы увидим позже). Короче говоря, чаты ИИ кажутся конфиденциальными, но на самом деле это постоянные записи.
Альтман резюмировал это: "Люди должны понимать: разговор с ChatGPT — это не разговор с терапевтом. Это не является юридической тайной". Если власти постучатся, эти записи разговоров могут быть переданы. И сейчас большинство пользователей понятия не имеют об этом.
Все эти предупреждения могут показаться абстрактными. Вы можете подумать: «Конечно, технически мои чаты можно увидеть, но действительно ли это произойдет?» К сожалению, мы уже наблюдаем первые случаи, когда частные разговоры с ИИ превращались в публичные доказательства – с согласия пользователя или без него. Вот несколько сценариев, некоторые гипотетические, а некоторые вполне реальные, которые показывают, как чаты ChatGPT могут снова преследовать людей:
В суде по разводам: представьте, что супруг, переживающий неприятный развод, решает использовать ChatGPT в качестве резонатора. Они могут спросить: «Как мне скрыть банковский счет от жены?» или «Как лучше всего тайно съехать с детьми?» Они просто высказывают или исследуют идеи, не обязательно планируя это сделать. Но если команда юристов другого супруга узнает об этих журналах чата, они могут вызвать их в суд. Фактически, адвокаты по разводам уже предупреждают клиентов: все, что вы расскажете ИИ о своем разводе, может быть использовано против вас. Даже случайный вопрос типа «Могу ли я уехать из штата, не сказав об этом бывшему?» может быть искажено как доказательство недобросовестности. И не думайте, что ваши чаты в безопасности только потому, что вы их не передали — если у вашего бывшего есть доступ к вашим устройствам или облачным резервным копиям, возможно, у него уже есть скриншоты ваших признаний ИИ. Это не теоретический риск; это вполне реально в семейных судах по всему миру.
Утечки на рабочем месте. Еще один аспект, который следует учитывать, — это то, как ваши предположительно частные чаты могут просачиваться другими способами. Например, ранее в 2023 году инженеры Samsung усвоили это на собственном горьком опыте. Несколько сотрудников вставили конфиденциальный внутренний код и бизнес-информацию в ChatGPT (надеясь получить помощь в программировании), но эти данные не остались конфиденциальными — теперь они находились на серверах OpenAI, вне контроля Samsung. Сообщается, что через несколько недель фрагменты этих конфиденциальных чатов появились во внешних данных, что вызвало серьезную панику. После этой «случайной» утечки Samsung в конечном итоге запретила ChatGPT на устройствах компании. Инцидент показал, что все, что вы вводите в ИИ, может быть увидено тренерами ИИ, другими пользователями (в агрегированной форме) или даже поисковыми системами, если вы поделитесь чатом. Фактически, недавний отчет показал, что тысячи общих разговоров ChatGPT были проиндексированы в Google, потому что пользователи нажимали «Поделиться», и эти ссылки были общедоступными. Некоторые из этих чатов включали личные заботы людей, планы работы и даже черновики заявлений об увольнении – и все это было открыто в Интернете. Чтобы потерять контроль над вашими чатами с искусственным интеллектом, не требуется постановление суда или действия хакера; Простая неправильная настройка или сбой могут пролить свет. Еще раз: урок заключается в том, что то, что вы сообщаете ChatGPT, не обязательно остается в ChatGPT.
Каждый из этих примеров подчеркивает один момент: ваши разговоры с искусственным интеллектом не так конфиденциальны, как вы думаете. Будь то юридическое принуждение, следственная смекалка или технические лазейки, слова, которые вы прошептали этому дружественному ИИ, могут всплывать на поверхность, когда вы меньше всего их ожидаете. Ставки варьируются от личного смущения до юридической опасности. Как резко выразился один адвокат на X (ранее Twitter): Если вы вставляете контракт или спрашиваете ChatGPT о юридической стратегии, «вы не получаете юридическую консультацию… Вы создаете обнаруживаемые доказательства. Никто не обязан вас защищать… ChatGPT не [связан этическими нормами] – и может быть использован против вас». Проще говоря: все, что вы скажете ChatGPT, может и будет использовано против вас в суде – классическое предупреждение, теперь примененное к ИИ.
Что можно сделать, столкнувшись с этой тревожной реальностью? Сам Сэм Альтман не хочет, чтобы люди паниковали и отказывались от использования этих потенциально полезных инструментов ИИ. Вместо этого он призывает общество обновить наши законы и нормы, чтобы не отставать от технологий. Вот некоторые из ключевых мер и идей, предлагаемых для защиты пользователей в эпоху помощников ИИ:
Юридическая конфиденциальность для чатов с искусственным интеллектом: Альтман предлагает нам создать новые правовые нормы, которые будут относиться к вашим разговорам с искусственным интеллектом так же, как к разговорам с такими профессионалами, как терапевты или юристы. Это может означать принятие законов, которые предоставляют определенную привилегию или право на конфиденциальность в отношении взаимодействия с нашими чат-ботами. Например, возможно, сообщения пользователя ИИ не смогут быть использованы в суде, не соответствуя очень высокой планке, подобно тому, как работают семейные привилегии или привилегии врача и пациента. Для этого потребуется законодательство или судебное признание нового вида привилегированного общения. Это новая концепция, но по мере того, как ИИ становится частью повседневной жизни, законодатели в нескольких странах начинают обсуждать ее.
Ограничения на использование и хранение данных. Еще одним юридическим подходом является запрет на использование данных чата AI без согласия пользователя, за исключением чрезвычайных обстоятельств. Компании могут быть обязаны удалять разговоры пользователей через короткий период времени или хранить их только в зашифрованном виде, если только пользователь явно не согласится на иное. Точно так же, как ваш терапевт не будет записывать ваш сеанс и передавать его рекламодателям, возможно, компаниям, занимающимся искусственным интеллектом, следует соблюдать строгие правила в отношении того, как они регистрируют и используют ваши чаты. Альтман отметил, что условия OpenAI могут быть изменены, если законы потребуют большей конфиденциальности – и он, похоже, открыт для этого. Более строгие законы о конфиденциальности (например, европейский GDPR) также могут заставить поставщиков ИИ позволить пользователям действительно удалять данные. Цель состоит в том, чтобы по умолчанию ваши разговоры с ИИ оставались между вами и алгоритмом, если только вы не решите поделиться ими.
Прозрачность от компаний, занимающихся искусственным интеллектом. Между тем, этическая ответственность лежит на самих компаниях. Альтман считает, что разработчики ИИ должны быть честными с пользователями в отношении этих ограничений конфиденциальности. Это означает более четкие предупреждения и заявления об отказе от ответственности: каждый раз, когда вы открываете ChatGPT, он должен напоминать вам: «Не делитесь конфиденциальной информацией — этот чат не является конфиденциальным по закону». Компании могли бы информировать пользователей о том, что их чаты могут быть проверены (для модерации или обучения) и при необходимости переданы властям. В настоящее время это предупреждение напечатано мелким шрифтом, но оно должно быть громким и ясным. Надежда состоит в том, чтобы не дать пользователям – особенно молодым и уязвимым – наивно доверять ИИ свои самые темные секреты.
Обучение пользователей и цифровая гигиена. Помимо законов и политики компании, многое сводится к обучению пользователей. Школы, родители и средства массовой информации должны распространять информацию: относитесь к своему чату с искусственным интеллектом как к публичному отчету, а не как к личному дневнику. Подумайте дважды, прежде чем раскрывать личные данные, незаконные намерения или что-то, что вы не хотели бы читать вслух в суде. Эксперты по кибербезопасности советуют соблюдать правила «онлайн-гигиены» даже при использовании ИИ: по возможности используйте анонимные учетные записи, отключайте историю чатов при обсуждении чего-то деликатного и избегайте разглашения настоящих имен, адресов или сведений, которые могут быть отслежены до вас. Помните, что снимки экрана может делать любой, у кого есть доступ к вашему устройству, поэтому защитите свои устройства и облачные учетные записи, если вы боитесь посторонних глаз в вашей личной жизни. Короче говоря, не добавляйте ничего, что вы бы не отправили в электронное письмо. Вы же не отправите незнакомцу свой дневник или признания по электронной почте, верно? Здесь следует применить ту же осторожность.
Откровенное предупреждение Альтмана – «нам нужны новые законы для защиты конфиденциальности пользователей, потому что многие используют ИИ в качестве личного консультанта или терапевта» – поставило эту проблему в центр внимания. Законодатели действительно начинают это замечать, но правовые изменения зачастую происходят медленно. Между тем, каждый из нас должен охранять свою конфиденциальность при работе с ИИ. Это немного иронично: у нас наконец-то появились суперумные чат-боты, которые чувствуют себя чуткими людьми, и мы хотим доверять им, как друзьям. Но пока общество не догонит ситуацию, использовать ИИ в качестве доверенного лица — все равно, что выкрикивать свои секреты на записывающее устройство.
Трансгуманист или нет, любой, кто взаимодействует с ИИ, должен помнить, что мы все еще живем в очень человечной правовой системе. Слова, которые вы шепчете ИИ, могут иметь реальные последствия. Мы находимся на неизведанной территории, где наши случайные разговоры с машиной могут быть прочитаны юристами, судьями или государственными чиновниками, которым никогда не суждено было их увидеть. Комфорт и удобство ChatGPT позволяют легко забыть об этом риске.
Пока не настанет день, когда законы действительно предоставят беседам ИИ конфиденциальность сеанса терапии или исповеди, вам придется позаботиться о себе. Наслаждайтесь ChatGPT за то, в чем он хорош — мозговой штурм, изучение новых вещей, развлечения и даже некоторые общие жизненные советы — но не рассматривайте его как священное хранилище для ваших секретов. Это скорее громкоговоритель, подключенный к облачной базе данных. Поэтому, прежде чем излить свою душу машине, задайте себе этот вопрос еще раз: буду ли я согласен, если этот разговор будет зачитан в суде или показан моему злейшему врагу? Если нет, то, вероятно, лучше хранить это между вами и настоящим профессионалом, соблюдая конфиденциальность, или просто полностью держать в автономном режиме.
В эту странную новую эпоху взаимоотношений человека и ИИ немного здоровой паранойи имеет большое значение. ChatGPT может показаться вам другом, но помните: юридически он не является вашим другом. Пока законы о конфиденциальности не наверстают упущенное, рассматривайте каждый чат как потенциально публичный. Цель не в том, чтобы отпугнуть всех от ИИ, а в том, чтобы дать вам возможность использовать его разумно и безопасно. Как говорится в юридическом мире: все, что вы скажете, может и будет использовано против вас. Теперь это включает в себя все, что вы говорите ИИ. Так что, конечно, говорите с ChatGPT – просто следите за своим ртом (и клавиатурой), потому что никогда не знаешь, кто может подслушивать.