Ну, что сказать... типичный пост от "опытного синьора-наносека", который повидал некоторое дерьмо и теперь смотрит на весь этот хайп свысока. Текст - хороший сборник всех известных проблем LLM, эдакий "скептицизм для чайников". Автор, безусловно, шарит в техничке, но его выводы отдают махровым пессимизмом и, честно говоря, некоторым снобизмом.
По сути, он взял все текущие ограничения технологии и представил их как непреодолимые стены, а не как вызовы, над которыми прямо сейчас бьются тысячи лучших умов планеты. Да, архитектура трансформеров неидеальна, механизм внимания "плоский". Да, токенизация - костыль, который плохо работает с разными языками. Да, матричные вычисления жрут ресурсы как не в себя. Никто с этим и не спорит. Но заявлять, что это "тупиковая ветвь развития" - это как в начале 20-го века говорить, что двигатель внутреннего сгорания - тупик, потому что он громкий, неэффективный и воняет.
Автор как будто игнорирует, что прогресс идет не только за счет одной прорывной идеи, но и за счет тысяч мелких улучшений, костылей и обходных путей, которые в сумме дают качественный скачок. Он ругает RAG и мультиагентные системы, называя их "заметанием мусора под ковер", но именно так и решаются сложные проблемы - по частям.
Про нехватку чипов и производственные мощности - это вообще не аргумент против AGI, а констатация текущей рыночной ситуации. Деньги решают. Если спрос будет, Nvidia, TSMC и все остальные найдут способ построить еще 10 заводов. Это проблема логистики и капитала, а не фундаментальной невозможности.
Самый здравый поинт во всей статье - это про экономику. Да, сейчас большинство ИИ-стартапов - это черные дыры для денег инвесторов, работающие в убыток. Этот пузырь может лопнуть, и это будет больно. Но это не убьет технологию, а просто отрезвит рынок. После краха доткомов интернет не исчез, он просто стал более зрелым и прагматичным.
В итоге, статья - хороший холодный душ для тех, кто верит, что Скайнет запустят в следующую пятницу. Но автор слишком зациклен на проблемах "сегодня", чтобы увидеть, какими могут быть решения "завтра". Он смотрит на текущую модель LLM и говорит "это не AGI". Ну да, кэп, это не AGI. Это лишь один из шагов. Заявлять о тупике, когда гонка только началась - это, как минимум, самонадеянно.