Один из пользователей, тестировавший бета-версию iOS, неожиданно столкнулся с неприятной ситуацией. При использовании функции Apple Intelligence, предназначенной для повышения производительности, система сгенерировала краткое изложение личных сообщений, касающихся разрыва отношений с его девушкой.
ИИ отразил суть эмоционального разговора очень прямолинейно, предоставив сообщение с подписью: "Больше не вместе, хочет забрать вещи из квартиры".
Скриншот с результатами работы Apple Intelligence быстро приобрел популярность после публикации в социальных сетях.
Пользователи активно обсуждали инцидент, вызвавший множество вопросов о целесообразности автоматического обобщения чувствительных тем, таких как разрыв отношений. Прямолинейный подход ИИ к обработке личных сообщений заставил многих усомниться в корректности алгоритмов и необходимости таких функций.
Apple Intelligence разработана для повышения производительности, и в некоторых случаях, например, при обработке большого количества непрочитанных сообщений в групповых чатах, он действительно может быть полезен. Однако проблема возникает, когда речь идет о деликатных темах, требующих более осторожного подхода к человеческим эмоциям. Автоматическое обобщение может нарушать эмоциональный комфорт пользователей, поскольку ИИ, к сожалению, не всегда способен учитывать контекст и особенности ситуации.
Это не первый случай, когда Apple Intelligence попадает под критику. Ранее система уже демонстрировала недостатки во время тестирования, когда ошибочно обозначала фишинговые письма как приоритетные, не умея отличить их от подлинных сообщений. Такие ошибки свидетельствуют о необходимости усовершенствования алгоритмов и внедрения дополнительных механизмов для улучшения "эмоционального интеллекта" системы.
Пользователи выражают надежду, что Apple учтет критику и скорректирует свои алгоритмы, чтобы сделать функцию более чувствительной к человеческим эмоциям. Это может включать улучшение обработки контекста, избегание обобщений чувствительных тем и обеспечение более осторожного подхода к важным личным вопросам.
по материалам
уникальность
