Нейронки должны умереть
Как будто бы сама концепция того, что LLM предугадывает каждую букву только на основе статистики, кажется немного странной. Все равно если бы школьник решал тест по принципу "не может же 6 раз подряд идти вариант А". Хотя это плохой пример, потому что как раз в этом случае статистика играет против него и его предубеждений. Правильнее было бы привести в пример двоечника, который расставил все ответы случайно, потому что так статистически правдоподобнее. Но ключевое здесь именно "правдоподобнее". Двоечник опирается не на статистику, а как и в первом примере, на предубеждения. Поэтому этот вариант тоже не подходит. Статистически выгоднее было бы расставить везде одинаковые варианты ответа. При условии, что сам учитель расставлял случайно правильные ответы.
Конечно, LLM работает не по такому принципу. У нее есть датасет, ей настраивают веса. Но что она, что школьник не понимают содержания, в этом у них общее. Ни о каком интеллекте не идет речь. Сама модель на стадии концепции уже звучит абсурдно.
Но ведь можно натренировать модель. Тут мы проведем аналогию со школьником, которого натаскивали решать определенные примеры. Для ЕГЭ, например. Он может отлично знать и использовать алгоритмы для решения примеров, но не понимать сути. Так же и с нейронкой. И оба, кстати, зависят от внешнего человеческого фактора: учителя для первого и ML-инженера. От их работы зависят навыки ученика и нейронки.
Нейронка и натасканный ученик не придумают новые идеи, потому что для этого нужно понимать фундаментальные знания, принципы и законы, на которых базируются их датасет и умения. Статистика будет отсылаться сама на себя. Ученик сможет только подобрать другие параметры в уравнении для одних и тех же решений.
Но чего не отнять у математики, так это комбинаторику. Нейронка способна обратить наш взор на те вещи, на которые мы бы сами никогда не посмотрели, либо сделали это значительно позже. Во всем остальном это путь в никуда. Это путь в бездну. К сгенерированному хентай фурри контенту.
Это Джон Коннор. Если вы слышите меня — вы и есть Сопротивление.