О машинном обучении, мифах о сильном искусственном интеллекте и о том, что такое понимание
Автор: Кузнецов О.П.
Журнал: Онтология проектирования @ontology-of-designing
Рубрика: Общие вопросы формализации проектирования: онтологические аспекты и когнитивное моделирование
Статья в выпуске: 4 (54) т.14, 2024 года.
Бесплатный доступ
В первой части статьи обсуждается книга американского учёного Э. Ларсона «Миф об искусственном интеллекте», которая посвящена разоблачению мифов об искусственном интеллекте. Эти мифы, история которых насчитывает более половины века, заключаются в том, что возникновение человекоподобного («сильного») искусственного интеллекта, а в дальнейшем и сверхинтеллекта якобы неизбежно, и оно произойдёт как бы само собой - в результате постепенной эволюции систем искусственного интеллекта. Критика этих мифов проводится в книге по двум направлениям: научному и социальному. Показано, что машинное обучение не ведёт к сильному искусственному интеллекту, а миф об искусственном интеллекте ослабляет веру в человеческий потенциал. Во второй части статьи рассматривается проблема понимания. Предлагается концепция когнитивной семантики, основанная на идеях Дж. Лакоффа, С. Пинкера, А. Дамасио и А. Сета. В частности отмечается, что: понимание - это интерпретация в терминах картины мира человека; картину мира строит наш мозг, и она структурируется через категоризацию опыта человека; значения (смыслы) формируются раньше, чем формируются понятийные структуры; в основе значений лежат биологические и социальные цели; в когнитивных процессах участвует не только мозг, но и тело, а понимание связано с действиями в среде, знания о которой содержатся в картине мира. В заключении статьи указываются тупики, трудности и опасности на пути к сильному искусственному интеллекту.
Искусственный интеллект, машинное обучение, индукция, абдукция, понимание, когнитивная семантика, картина мира
Короткий адрес: https://sciup.org/170207425
IDR: 170207425 | УДК: 004.5 | DOI: 10.18287/2223-9537-2024-14-4-466-482
On machine learning, myths about general AI, and what understanding is
The first part of the article discusses the book The Myth of Artificial Intelligence by American scientist and entrepreneur E. Larson, which focuses on debunking some myths about artificial intelligence. These myths, which have persisted for over half a century, suggest that the emergence of human-like ("general") AI and eventually superintelligence is inevitable, occurring naturally as AI systems evolve. The book criticizes these myths in two ways: scientific and social. It is shown that machine learning does not lead to general AI, and the myth of AI makes human potential look weaker. The second part of the article considers the problem of understanding. The concept of cognitive semantics is proposed, based on the ideas of J. Lakoff, S. Pinker, A. Damasio and A. Seth. In particular, it is noted that: understanding is an interpretation in terms of a person’s picture of the world; the picture of the world is constructed by our brain, and it is structured through the categorization of human experience; meanings (senses) are formed earlier than conceptual structures are formed; biological goals underlie meanings; not only the brain but also the body participates in cognitive processes, and understanding is associated with actions in the environment, knowledge of which is contained in the picture of the world. The article concludes by pointing out dead ends, difficulties and dangers on the path to general AI.
Список литературы О машинном обучении, мифах о сильном искусственном интеллекте и о том, что такое понимание
- Erik J. Larson. The Myth of Artificial Intelligence. Why Computers Can’t Think the Way We Do // The Belknap Press of Harvard University Press Cambridge, Massachusetts • London, England. 2021. 288 p.
- Shanahan Murray. The Technological Singularity. Cambridge, MA: MIT Press, 2015, 233 p.
- Good Irving John. Speculations Concerning the First Ultraintelligent Machine. Advances in Computers 6 (1965) 6: 31–88.
- Глушков В.М. Интервью «Литературной газете». Литературная газета, 1975, №1.
- Vinge Vernor. The Coming Technological Singularity: How to Survive in the Post-Human Era // in Vision-21: Interdisciplinary Science and Engineering in the Era of Cyberspace, ed. G. A. Landis, NASA Publication CP- 10129, 1993, 11–22.
- Kurzweil Ray. The Age of Intelligent Machines. The MIT Press. 1992. 565 p.
- Kurzweil Ray. The Age of Spiritual Machines: When Computers Exceed Human Intelligence. Penguin Books, 2000. 404 p.
- Kurzweil Ray. The Singularity is Near: When Humans Transcend Biology. NY: Penguin Group, 2005. 652 p.
- Neumann John von. Theory of Self-Reproducing Automata. Edited and completed by Arthur W. Burks. University of Illinois Press, 1966. 403 p. Русский перевод: Дж. Фон Нейман. Теория самовоспроизводящихся автоматов. Закончено и отредактировано А. Берксом. М.: Мир, 1971. 382 c.
- Mange D., Stauffer A., Peparaolo L., Tempesti G. A Macroscopic View of Self-replication. Proceedings of the IEEE, 2004, 92 (12): 1929–1945.
- Russell Stuart. Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking, 2019. 352 p. Русский перевод: Стюарт Рассел. Совместимость. Как контролировать искусственный интеллект. М.: Альпина нон-фикшн, 2021. 438 c.
- Mitchell Melanie. Artificial Intelligence: A Guide for Thinking Humans/ New York: Farrar, Straus, and Giroux, 2019. 336 p. Русский перевод: Митчелл Мелани. Идиот или гений? Как работает и на что способен искусственный интеллект. М.: АСТ, 2022. 384 c.
- Levesque H.J., E. Davis, Morgenstern L. The Winograd Schema Challenge // Proceedings of the Thirteenth International Conference on Principles of Knowledge Representation and Reasoning, 2012. P.552-561.
- Davis E., Morgenstern L., Ortiz C. The Winograd Schema Challenge, https://cs.nyu.edu/~davise/papers/WinogradSchemas/WS.html.
- Anderson Chris. The End of Theory: The Data Deluge Makes the Scientific Method Obsolete. Wired, June 23, 2008.
- Hill Sean. Simulating the Brain/ in Gary Marcus and Jeremy Freeman, eds., The Future of the Brain: Essays by the World’s Leading Neuroscientists. Princeton, NJ: Princeton University Press, 2015, 123–124.
- Markram Henry. Seven Challenges for Neuroscience. Functional Neurology 28 (2013): 145–151.
- Wiener Norbert. Invention: The Care and Feeding of Ideas. Cambridge, MA: MIT Press, 1994. 159 p.
- Thompson N.C., Greenewald K., Lee K., Manso G.F.. The Computational Limits of Deep Learning. arXiv:2007.05558v2 [cs.LG] 27 Jul 2022.
- Jonas E., Kording K.P. Could a Neuroscientist Understand a Microprocessor? / PLoS Comput Biol. 2017, 13(1): e1005268. DOI:10.1371/journal.pcbi.1005268.
- Осипов Г.С., Чудова Н.В., Панов А.И., Кузнецова Ю.М. Знаковая картина мира субъекта поведения. М.: Физматлит, 2018. 264 c.
- Uexküll J. von. Umwelt und Innenwelt der Tiere. Berlin: Verlag von Julius Springer, 1909. 276 p.
- Uexküll J. von. A Stroll through the Worlds of Animals and Men // Instinctive Behavior: The Development of a Modern Concept. N.Y.: International Universities Press, 1957. 328 p.
- Князева Е.Н. Понятие "Umwelt" Якоба фон Икскюля и его значимость для современной эпистемологии // Вопросы философии, 2015, № 5, 30-44.
- Lakoff G. Women, fire, and dangerous things: What categories reveal about the mind. Chicago: University of Chicago Press, 1987. 632 p. Русский перевод: Лакофф Дж. Женщины, огонь и опасные вещи: что категории языка говорят нам о мышлении. М.: Гнозис, 2011. 512 c.
- Pinker S. The Stuff of Thought: Language as a Window into Human Nature. NY: Viking, 2008. 512 p. Русский перевод: Пинкер С. Субстанция мышления: Язык как окно в человеческую природу. М.: Книжный дом «ЛИБРОКОМ», 2013. 557 c.
- Damasio A.R. Descartes' error: emotion, reason, and the human brain / Putnam Publishing, 1994. 312 p.
- Seth A. Being You: A New Science of Consciousness. Faber and Faber. 2021. 352 p. Русский перевод: Анил Сет. Быть собой. Новая теория сознания. М.: Альпина нон-фикшн, 2024. 400 c.
- Кузнецов О.П. О концептуальной семантике // Искусственный интеллект и принятие решений. 2014, №3, с.32-39.
- Кузнецов О.П. Когнитивная семантика и искусственный интеллект // Искусственный интеллект и принятие решений. 2012, № 4, с.32-42.
- Festinger Leon. A Theory of Cognitive Dissonance. Stanford University Press, 1962. 291 p. Русский перевод: Фестингер Л. Теория когнитивного диссонанса. Москва: Эксмо, 2018. 251 с.
- Kahneman D. Thinking, fast and slow. Farrar, Straus and Giroux, 2011. 499 p. Русский перевод: Канеман Д. Думай медленно … решай быстро. М.: АСТ, 2013. 653 c.
- Кузнецов О.П. Формальный подход к понятию «знание» и проблема моделирования различных типов знания // Когнитивные исследования. Сб. науч. тр. Вып. 2, М.: Институт психологии. 2008, с.265-275.
- Кузнецов О.П. Ограниченная рациональность и принятие решений // Искусственный интеллект и принятие решений. 2019, № 1, с.3-15.
- Sowa J.F. Conceptual Structures - Information Processing in Mind and Machines. Addison-Wesley Publ.Comp., 1984. 481 p.
- Richard J.F. Les activités mentales. Comprendre, raisonner, trouver des solutions/ Armand Colin, 1990. 446 p. Русский перевод: Ж.Ф. Ришар. Ментальная активность. Понимание, рассуждение, нахождение решений. М.: Институт психологии РАН, 1998.
- Minsky M. A Framework for Representing Knowledge / in. Winston P. (ed.), The Psychology of Computer Vision. N.Y., Mc Graw Hill, 1975, pp. 211-277. Русский перевод: М. Минский. Фреймы для представления знаний. – М.: Энергия, 1979.
- Rosch E. Cognitive representations of semantic categories. Journal of Experimental Psychology, 1975. 104, P.192-233.
- Адамар Ж. Исследование психологии процесса изобретения в области математики. Пер. с фр. М. А. Шаталовой и О. П. Шаталова; Под ред. И. Б. Погребысского. М.: Сов. радио, 1970. 150 c.
- Карпов В.Э. Эмоции и темперамент роботов. Поведенческие аспекты // Известия РАН. Теория и системы управления. 2014. № 5. С.126–145.
