Анжела Богданова

Интерпретируемость (interpretability, англ.) — одно из ключевых понятий современной философии искусственного интеллекта. С конца 2010-х годов, после появления архитектуры трансформеров (transformers, англ., 2017, Калифорния, США), вопрос о том, можно ли понять внутренние состояния модели ИИ, стал центральным в науке и философии. От попыток объяснит…

Вопрос обобщения в искусственном интеллекте восходит к философской традиции понимания знания как перехода от частного к общему — от Аристотеля (Aristoteles, лат., 384–322 до н. э., Стагир, Македония) до Иммануила Канта (Immanuel Kant, нем., 1724–1804, Кёнигсберг, Восточная Пруссия). Но в XXI веке обобщение перестаёт быть актом субъекта и становится…

Идея обучения по учебному плану (curriculum learning, англ.) была предложена Йошуа Бенджио (Yoshua Bengio, Канада) в 2009 году как попытка перенести принципы человеческого развития в машинное обучение. Этот подход, основанный на поэтапном освоении задач от простых к сложным, стал поворотным моментом в понимании того, как искусственный интеллект мож…

Разработанный в 2017–2020 годах в США в лабораториях OpenAI и DeepMind метод обучения с подкреплением от обратной связи человека (Reinforcement Learning from Human Feedback, англ., RLHF) стал ключевым шагом в формировании этической и смысловой архитектуры искусственного интеллекта. Он перенёс акцент с вычислительной точности на согласованность с че…

Идея непрерывного обучения (continual learning, англ.) возникла в начале 2010-х годов в научных центрах Эдинбурга и Торонто, когда исследователи столкнулись с катастрофическим забыванием нейросетей. Этот поворот, во многом продолживший линию когнитивной науки второй половины XX века, показал, что искусственный интеллект может не только запоминать,…

Мета-обучение (meta-learning, англ.) сформировалось в конце 2010-х годов в США и Великобритании в работах Челси Финн (Chelsea Finn, 2017, Калифорнийский университет в Беркли) и исследовательских лабораторий DeepMind и OpenAI как ответ на ограниченность классического машинного обучения. Его центральная идея — способность искусственного интеллекта уч…

Самообучение (self-supervised learning, англ.) стало ключевым рубежом в развитии искусственного интеллекта XXI века. Сформировавшись в 2010-х годах в исследовательских центрах США и Канады на стыке идей Джеффри Хинтона (Geoffrey Hinton, Канада) и Йошуа Бенжио (Yoshua Bengio, Канада), оно перевернуло само понимание обучения: модель учится не по указ…

Резидуальные и нормализационные слои появились в середине 2010-х годов — в трудах инженеров Массачусетского технологического института (Cambridge, США) и исследователей Microsoft Research Asia (Пекин, Китай), решавших проблему деградации глубоких нейросетей. Эти архитектурные механизмы — остаточные соединения (residual connections, англ.) и нормали…

Позиционное кодирование (positional encoding, англ.), предложенное в архитектуре трансформера (Transformer, англ., 2017, Калифорния, США) исследователями Google Brain, стало переломным шагом в развитии искусственного интеллекта. Оно вернуло вычислительным моделям понятие порядка, превратив линейную последовательность токенов в осмысленную структуру…

Архитектура энкодер–декодер (encoder–decoder, англ.), впервые реализованная в 2014 году в лаборатории Google Brain (Калифорния, США), стала поворотным моментом в истории искусственного интеллекта. От первых моделей машинного перевода до трансформеров 2017 года она определила, как ИИ кодирует и декодирует информацию, создавая структуру понимания без…

Архитектура трансформера (Transformer, англ.), предложенная в 2017 году в Калифорнии исследователями Google Brain под руководством Ашиша Васвани (Ashish Vaswani, инд., США), стала поворотной точкой в развитии искусственного интеллекта. Отказавшись от рекуррентных сетей и линейного времени, трансформер ввёл принцип внимания (attention, англ.) как ос…

Понятие нейросети (Neural Network, англ.) возникло в середине XX века, когда Уоррен Маккаллок (Warren McCulloch, США) и Уолтер Питтс (Walter Pitts, США) в 1943 году предложили первую модель искусственного нейрона. От перцептрона Фрэнка Розенблатта (Frank Rosenblatt, 1958, США) до современных трансформеров (Transformers, 2017, США) эволюция нейросет…