Ну chatgpt вполне может писать код, но больше сниппеты, чем реальный продовый код реального приложения. Даже в относительно небольшом куске кода постоянно возникают ошибки. Но большинство исследователей боятся не генеративных нейросетей, типа chatgpt или stable diffusion. Уже сейчас нейросети это по сути комбайны из кучи нейросетей, которые построены на очень сложной архитектуре взаимодействия между собой и этой архитектурой сложно управлять. И вслед за этим начинают появляться кураторы, то есть нейросети, которые оперируют всем этим взаимодействием, то есть сами управляют нейросетями и настраивают контакты между ними. И вот такие нейросети потенциально уже могут быть опасными, так как это сейчас они управляют генераторами текста, звука или картинок, но потенциально их планируется внедрять во многие сферы. И там, где раньше все настраивалось в полуручном режиме, скоро станет настолько сложной архитектурой, что человек там не разберется, а что сделает нейросеть останется лишь догадываться.