Экс-исследовательница OpenAI предупреждает об опасности рекламы в ChatGPT

Недавно уволилась из OpenAI сотрудница, работавшая в компании два года. Вскоре после ухода начали тестировать рекламу в ChatGPT. Она выражает обеспокоенность по поводу этого шага. По мнению сотрудницы, внедрение рекламы в ChatGPT представляет собой серьезную угрозу. Платформа стала уникальным хранилищем конфиденциальной информации о людях – от страхов и болезней до личных отношений и религиозных убеждений, вплоть до мыслей о самоубийстве. Реклама, использующая эти данные, открывает беспрецедентные возможности для манипулирования людьми, что ранее не наблюдалось в технологиях. OpenAI заявляет, что реклама будет четко обозначена и не будет влиять на содержание ответов. Однако, сотрудник опасается, что в дальнейшем экономические мотивы приведут к ослаблению правил. Главная опасность заключается в том, что пользователи делятся в ChatGPT информацией, которую они никогда не разгласят в поисковых системах или социальных сетях. Это создает архив человеческой уязвимости, которого раньше не существовало. Предлагаются три альтернативные решения: 1) Бизнес, получающий огромную прибыль от ИИ, оплачивает повышенные тарифы, которые субсидируют бесплатный доступ для обычных пользователей. 2) Создание независимых советов с участием работников, пользователей и общественности, аналогичных немецким моделям в Siemens и Volkswagen, или Oversight Board Meta. 3) Внедрение пользовательских дата-трастов или кооперативов, где пользователи контролируют использование своих данных, как в швейцарском кооперативе MIDATA в здравоохранении.