Хотите подтвердить, что вы — реальный человек? Кажется просто, но на самом деле это ловушка парадокса. Предположим, мы установим какой-то стандарт как «единственное доказательство человечности» — и ИИ начнет учиться соответствовать этому стандарту — а затем мы обнаружим, что этот стандарт уже утратил свою силу. Границы общественного мнения разрываются. Проблема в том, что любой способ проверки, который мы можем придумать, может быть использован в обратную сторону. ИИ становится все умнее, они будут имитировать, адаптироваться, эволюционировать. Мы создаем правила, чтобы различать друг друга, а они находят выход внутри рамок этих правил. К чему в конечном итоге приводит эта гонка вооружений? К распаду самого стандарта. Границы между реальным и ложным становятся размытыми.