На эту тему можно дискуссировать очень долгоИ как ИИ может быть улучшенным человеком. В нем будет заложено лишь то, что вложил человек, ни капли ни больше. Не будет ему хватать эмоций и неизвестно, что он способен предпринять в нестандартных ситуациях. Перегорит.
Возможно, ИИ будет действовать по канонам вложенных человеком. А возможно - начнет развиваться самостоятельно, и думать как человек, а именно - быть непредсказуемым.