Глава Cohere критикует движение эффективного альтруизма на на фоне кризиса в OpenAI

Генеральный директор стартапа Cohere в сфере искусственного интеллекта высказал критику в адрес движения эффективного альтруизма и тех, кто слишком обеспокоен угрозой "конца света" от ИИ, в письме своим сотрудникам в среду. Индустрия ИИ все больше разделяется на тех, кто призывает к осторожности и сдержанности в развитии технологии, и тех, кто хочет быстро двигаться вперед. Это напряжение было явно видно на прошлой неделе во время конфликта между генеральным директором OpenAI Сэмом Альтманом и членами совета директоров, которые уволили его в пятницу, а затем вновь наняли через пять дней.

Страх перед тем, что ИИ может уничтожить человечество, является ключевой идеей среди многих сторонников эффективного альтруизма и за последнее десятилетие стала все более влиятельной в Кремниевой долине и индустрии ИИ. В совет директоров OpenAI входили сторонники этой философии.

В своем письме генеральный директор Cohere Эйдан Гомес заявил, что движение эффективного альтруизма, целью которого является количественная оценка того, как принести наибольшую пользу человечеству, стало догматичным и самовозвеличивающимся. "Когда люди начинают слишком сильно верить в то, что они уникально квалифицированы для помощи или даже спасения человечества, они склонны принимать крайние меры в этом направлении", - написал он. Другие также критиковали филантропическое движение по похожим причинам, указывая на то, как мышление "цель оправдывает средства" привело к вреду, обману и обвинениям в злоупотреблениях.

Гомес написал, что Cohere не отвлекается на "фантастические истории о конце света и терминаторах". Он также высказался о способе, которым другие стартапы в области ИИ сотрудничают с облачными провайдерами, подобно партнерству OpenAI с Microsoft Corp. "За эти годы у нас были возможности получить крупные инвестиции от различных облачных провайдеров, но мы не готовы принимать деньги с условиями и не будем принимать деньги, которые нужно будет вернуть инвестору", - написал он.

Представитель Cohere подтвердил подлинность письма и отказался от дальнейших комментариев.