GPT-4: Чему научилась новая нейросеть, и почему это немного жутковато
В этой статье мы разберем новые удивительные способности последней языковой модели из семейства GPT (от понимания мемов до программирования), немного покопаемся у нее под капотом, а также попробуем понять – насколько близко искусственный интеллект подошел к черте его безопасного применения?
GPT4 позволяет написать код. Все. Этого достаточно, чтобы эта нейросеть стала опасной, попав не в те руки.
При открытых исходниках, а значит и возможности влиять на ограничители и алгоритмы нейросетки, сколько бы времени прошло, прежде чем мы получили прошитую версию? Способную не только писать любого назначения код, но и с доступом к компиляторам и интернету, с возможностью этот код использовать по назначению самостоятельно.
Звучит, мягко говоря, не очень безопасно даже с текущей версией GPT, не говоря уже о будущих. И что страшнее всего - достаточно одного слива данных или найденного бекдора, чтобы это нейронка стала оружием (пусть не уровня SkyNet, пока что) в чьих - то руках.
Нужен будет еще человек, который код отревьювит и заставит нейросеть исправить в нем ошибки Х)