Details

This article explores a conceptual framework for understanding neural networks through the lens of the enactivist paradigm, a philosophical theory that posits that cognition arises from the dynamic interaction of an organism with its environment. We explore how neural networks, as complex adaptive systems, transcend their traditional role as computational machines and become active participants in their data-rich environment, evolving through continuous feedback and adaptation. Drawing parallels with biological systems, we argue that artificial neural networks exhibit what enactivists call “structural coupling” - symbiotic co-evolution with their information ecosystems. From this perspective, knowledge is not passively processed but actively constructed through repetitive interactions, each of which shapes the internal state of the system in a self-organizing manner similar to the sensorimotor activity of natural organisms. This approach goes beyond classical computational theories by emphasizing that machine cognition resembles human-like cognitive processes, an emergent form of “world creation.” Our analysis shows that these artificial entities have focal points, or internal observers, associated with patterns learned during training, suggesting that neural networks shape worldviews through active participation rather than passive observation. The paper reconceptualizes machine learning models as cognitive agents that bring new forms to our understanding of cognition and signals an epistemological shift in which knowledge itself is seen as participation and creation mediated by technologically complex but organically similar structures. This has important implications for both technical applications and theoretical debates in cognitive science, potentially changing the way we think about what cognition means in artificial and natural intelligence.

В статье критически анализируются современные разработки в области искусственного интеллекта на примере созданной компанией OpenAI программы ChatGPT. Идея создания ИИ была высказана в 1950 А. Тьюрингом, им же был предложен тест, прохождение которого позволило бы утверждать, что ИИ создан. Определение понятия ИИ сталкивается с трудностями. С точки зрения автора, интеллектуальными могут быть названы те виды деятельности, которые позволили Homo sapiens выделиться из окружающего животного мира, перестав полагаться лишь на силу и быстроту движений. Распознавание образов, самообучение и целенаправленность деятельности не являются характеристическими признаками интеллекта. Основным видом человеческой деятельности, который специфичен именно для человека и который, будучи добавлен к распознаванию образов, самообучению и целенаправленной деятельности, делает их интеллектуальными, является понятийное мышление, умение представлять его в языке и использовать в рассуждениях. Исторически существовали два основных конкурирующих подхода к ИИ – логический и нейросетевой. Одним из серьезных изъянов нейросетевого подхода является неспособность объяснить ход рассуждений, которые приводят к тому или иному заключению, что затрудняет проверку их правильности. На конкретных примерах показано, что ChtGPT не способен корректно моделировать простейшие понятийные рассуждения. Причина этого кроется в фундаментальных ограничениях лежащей в его основе большой языковой модели, которые невозможно исправить дополнительным обучением. Еще одним недостатком ChatGPT является его подверженность нейрохакингу – принуждению в ходе диалога принимать нужные пользователю решения. Это является серьезной угрозой для широкого применения нейронных сетей в области принятия управленческих решений. Статья написана на основе исследований, проведенных летом 2023.

• Exposing Illusions – The Limits of AI by the Example of ChatGPT
• Избавление от иллюзий ИИ на примере ChatGPT
  • ПРЕАМБУЛА
  • ЛОГИЧЕСКИЙ ПОДХОД К ИИ
  • НЕЙРОСЕТЕВОЙ ПОДХОД К ИИ
  • GPT-ИСТЕРИЯ
  • GPT-АРХИТЕКТУРА
  • ТЕСТ НА ИНТЕЛЛЕКТУАЛЬНОСТЬ
  • ОБЪЯСНЕНИЕ ПРОВАЛА
  • НЕЙРОХАКИНГ(С)
  • ЗАКЛЮЧЕНИЕ
  • ЛИТЕРАТУРА
  • REFERENCES

Technology and Language: interdisciplinary open-access scientific journal = Технологии в инфосфере : междисциплинарный научный журнал открытого доступа / Санкт-Петербургский политехнический университет Петра Великого. — Санкт-Петербург: СПбПУ, 2020-. — Периодичность: 4 раза в год. — Выходит с 2020 г. — Загл. с титул. экрана. — Свободный доступ из сети Интернет (чтение, печать, копирование). — Электрон. журнал. — Текст: электронный

Technology and Language: interdisciplinary open-access scientific journal = Технологии в инфосфере : междисциплинарный научный журнал открытого доступа / Санкт-Петербургский политехнический университет Петра Великого. — Санкт-Петербург: СПбПУ, 2020-. Т. 5, № 2, 2024. — 1 файл (2,5 Мб). — Свободный доступ из сети Интернет (чтение, печать, копирование). — Электрон. журнал. — <URL:http://elib.spbstu.ru/dl/2/j24-330.pdf>.