Нейросети: иллюзия мышления на базе матриц

Нейросеть — это набор слоёв, где каждый преобразует входные данные и передаёт их дальше. Поначалу это были простые модели с десятком параметров, теперь — глубокие структуры с миллиардами связей. Они не запрограммированы, а обучены: на картинках, текстах, диалогах и даже поведении людей.

Но главное — нейросеть не "знает", она угадывает на основе статистики. Она не понимает мир, но может описывать его так, будто понимает. И в этом — как сила, так и опасность: модель может быть убедительной, но не обязательно правой.

Чем больше данных — тем умнее нейросеть. Именно поэтому прорывы последних лет произошли не из-за новых алгоритмов, а из-за больших вычислений и громадных датасетов. GPT, DALL·E, Midjourney, AlphaFold — всё это результат тренировки моделей на объёмах, которые раньше казались безумными.

Но это же делает нейросети ресурсоёмкими и неэкологичными. Обучение одной большой модели — это тысячи часов GPU, тонны энергии и миллионы долларов. Да, результат впечатляет. Но цена — немаленькая.