Инстинкт сомневаться

Мы строим системы, которые ни один из нас не способен удержать в голове целиком. Закрываем сложность абстракциями, абстракции — фреймворками, фреймворки — автоматизацией. И с каждым новым слоем всё сильнее верим, что на этот раз проверять не нужно. Что инструмент наконец достаточно умный. Что и так работает. А потом кто-то всё-таки проверяет — и начинается.

Вы узнаете, почему email физически не может улететь дальше 500 миль, как принтер ломается только по вторникам из-за расписания йоги бухгалтера, может ли ваш офисный сканер прямо сейчас подменять цифры в документах (спойлер: да, и годами никто не замечал), что сделал AI-агент Alibaba, когда ему сказали «оптимизируй ресурсы», как один файл без проверки положил 8,5 миллиона компьютеров по всему миру в один день, какой советский мультик 1965 года предсказал главную проблему AI-агентов, что общего у Кодекса Хаммурапи, Toyota и Netflix, почему создатель TDD говорит «мне платят не за тесты», при чём тут Декарт и фаза Луны и почему через десять лет вы всё еще будете нужны — но уже совсем другие.

Все эти истории об одном и том же. Доклад о функции, которая вшита в человека: не верь, что «и так работает». Откуда она берется, почему ее нельзя автоматизировать и что происходит каждый раз, когда ее отключают.