Details

This paper assesses the arguments of Emily M. Bender, Timnit Gebru, Angelina McMillan-Major and Margaret Mitchell in the influential article “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” These arguments disputed that Language Models (LM) can communicate and understand. In particular, I discuss the argument that LMs cannot communicate because their linguistic productions lack communicative intent and are not based on the real world or a model of the real world, which the authors regard as conditions for the possibility of communication and understanding. I argue that the authors’ view of communication and understanding is too restrictive and cannot account for vast instances of communication, not only human-to-human communication but also communications between humans and other entities. More concretely, I maintain that communicative intent is a possible but not necessary condition for communication and understanding, as it is oftentimes absent or unreliable. Communication need not be grounded in the real world in the sense of needing to refer to objects or state of affairs in the real world, because communication can very well be about hypothetical or unreal worlds and object. Drawing on Derrida’s philosophy, I elaborate alternative concepts of communication as the transmission of an operation of demotivation and overwhelming of interpretations with differential forces, and of understanding as the best guess or best interpretation. Based on these concepts, the paper argues that LMs could be said to communicate and understand.

В этой статье оцениваются аргументы Эмили М. Бендер, Тимнит Гебру, Анджелины Макмиллан-Мейджор и Маргарет Митчелл в влиятельной статье “Об опасностях стохастических попугаев: Могут ли языковые модели быть слишком большими?” Эти аргументы ставили под сомнение тот факт, что языковые модели (LM) могут общаться и понимать. В частности, я обсуждаю аргумент о том, что языковые модели не могут быть коммуникативными, потому что их лингвистические произведения лишены коммуникативной направленности и не основаны на реальном мире или модели реального мира, которые авторы рассматривают как условия возможности общения и понимания. Я утверждаю, что авторский взгляд на коммуникацию и понимание является слишком ограничительным и не может охватить обширные случаи коммуникации, не только коммуникации между людьми, но и коммуникации между людьми и другими сущностями. Более конкретно, я утверждаю, что коммуникативное намерение является возможным, но не необходимым условием для общения и понимания, поскольку оно часто отсутствует или ненадежно. Коммуникация не обязательно должна быть основана на реальном мире в том смысле, что она должна ссылаться на объекты или положение дел в реальном мире, потому что коммуникация вполне может касаться гипотетических или нереальных миров и объектов. Опираясь на философию Дерриды, я разрабатываю альтернативные концепции коммуникации как передачи операции демотивации и подавления интерпретаций различными силами, а также понимания как наилучшей догадки или наилучшей интерпретации. Основываясь на этих концепциях, в статье утверждается, что можно сказать, что языковые модели, передают информацию и понимают.

• Do Language Models Communicate? Communicative Intent and Reference from a Derridean Perspective
  • INTRODUCTION
  • LANGUAGE MODELS AS STOCHASTIC PARROTS
  • RECONSIDERING COMMUNICATIVE INTENT AND REFERENCE AS CONDITIONS OF COMMUNICATION AND UNDERSTANDING
  • RECONCEPTUALISING COMMUNICATION, UNDERSTANDING AND THE MODEL OF THE REAL WORLD
  • CONCLUSION
  • REFERENCES

Technology and Language: interdisciplinary open-access scientific journal = Технологии в инфосфере : междисциплинарный научный журнал открытого доступа / Санкт-Петербургский политехнический университет Петра Великого. — Санкт-Петербург: СПбПУ, 2020-. — Периодичность: 4 раза в год. — Выходит с 2020 г. — Загл. с титул. экрана. — Свободный доступ из сети Интернет (чтение, печать, копирование). — Электрон. журнал. — Текст: электронный

Technology and Language: interdisciplinary open-access scientific journal = Технологии в инфосфере : междисциплинарный научный журнал открытого доступа / Санкт-Петербургский политехнический университет Петра Великого. — Санкт-Петербург: СПбПУ, 2020-. Т. 5, № 2, 2024. — 1 файл (2,5 Мб). — Свободный доступ из сети Интернет (чтение, печать, копирование). — Электрон. журнал. — <URL:http://elib.spbstu.ru/dl/2/j24-330.pdf>.