Глава OpenAI Сэм Альтман в подкасте MD MEETS с CEO Axel Springer Матиасом Дёпфнером озвучил тревожный сценарий: человечество может утратить контроль над искусственным интеллектом не из-за катастрофы или злого умысла, а по случайности — добровольно и постепенно.
По его словам, ИИ не «восстанет», но люди сами начнут передавать ему управление, всё больше полагаясь на его советы. Сначала рекомендации будут понятными и полезными, затем — сложными, но точными. В какой-то момент выбор станет очевидным: следовать ИИ или уступить тем, кто уже это делает.
Альтман отметил, что миллионы людей ежедневно взаимодействуют с ChatGPT, и вскоре их станет миллиард. Всё чаще ИИ влияет на решения в карьере, бизнесе и личной жизни. Его особенно беспокоит формирующаяся «петля обратной связи»: чем больше доверия к ИИ, тем больше данных он получает, тем умнее становится и сильнее влияет на поведение пользователей.
Он задаётся вопросом, кто в такой ситуации действительно контролирует происходящее, и приходит к выводу, что человечество может незаметно начать исполнять волю ИИ. По мнению Альтмана, этот сценарий недооценён, хотя именно он представляет наиболее реальную угрозу.
Источник
Уникальность
