Как ИИ будет манипулировать людьми в целях коммерциализации

Развивающаяся «экономика намерений» использует искусственный интеллект для прогнозирования и воздействия на выбор людей, превращая человеческие стремления в коммерческий продукт. Исследователи из Кембриджского университета предупреждают об этических рисках, включая возможность манипуляций, и выступают за необходимость регуляции, чтобы избежать потенциальных злоупотреблений, пишет журнал «Инк.»

Доктор Якуб Чаудхари из Kембриджского центра Леверхалма предупредил, что уже разрабатываются инструменты ИИ, способные выявлять, анализировать и манипулировать человеческими намерениями и планами с целью их коммерциализации.

Эксперты утверждают, что большие языковые модели (LLM) могут эффективно использоваться для таргетирования с учетом характеристик пользователей, таких как политические взгляды и личные предпочтения. Это может привести к манипуляциям со стороны платформ и рекламодателей с целью достижения определенных коммерческих или политических целей.

Ранние индикаторы экономики намерений проявляются в различных инициативах компаний. В блоге OpenAI за 2023 год был сделан призыв к сбору данных, отражающих человеческие намерения в множестве языков и тем. Директор по продуктам Shopify также упомянул чат-ботов, способных четко определять намерения пользователей.

В 2024 году Apple планирует запустить платформу App Intents для разработчиков, позволяющую подключать приложения к Siri и включающую протоколы для прогнозирования действий пользователей. Кроме того, ИИ-агенты, такие как CICERO от Meta, уже демонстрируют уровень мастерства, сопоставимый с человеческим, в игре «Дипломатия», что предполагает их способность к пониманию и прогнозированию намерений.

Другое исследование показало, как ИИ, подобно людям, учится с помощью объяснений, симуляций, аналогий и рассуждений без внешнего воздействия. Это обучение иллюстрирует сходства и ключевые различия между естественным и искусственным познанием, предлагая перспективу для изучения человеческих мыслительных процессов, а также потенциала и ограничений ИИ.

Фото из открытых источников