Эта штука станет опасной, только обретя сознание - то есть начав мыслить самостоятельно, а не имитировать мышление при помощи анализа и обработки больших массивов данных. То есть, по сути эволюционировав в Сильный ИИ. А пока, насколько я знаю, научно не доказано, что подобное вообще возможно (кому интересно, погуглите про мысленный эксперимент "Китайская комната").