О машинном обучении, мифах о сильном искусственном интеллекте и о том, что такое понимание

О машинном обучении, мифах о сильном искусственном интеллекте и о том, что такое понимание

Автор: Кузнецов О.П.

Журнал: Онтология проектирования @ontology-of-designing

Рубрика: Общие вопросы формализации проектирования: онтологические аспекты и когнитивное моделирование

Статья в выпуске: 4 (54) т.14, 2024 года.

Бесплатный доступ

В первой части статьи обсуждается книга американского учёного Э. Ларсона «Миф об искусственном интеллекте», которая посвящена разоблачению мифов об искусственном интеллекте. Эти мифы, история которых насчитывает более половины века, заключаются в том, что возникновение человекоподобного («сильного») искусственного интеллекта, а в дальнейшем и сверхинтеллекта якобы неизбежно, и оно произойдёт как бы само собой - в результате постепенной эволюции систем искусственного интеллекта. Критика этих мифов проводится в книге по двум направлениям: научному и социальному. Показано, что машинное обучение не ведёт к сильному искусственному интеллекту, а миф об искусственном интеллекте ослабляет веру в человеческий потенциал. Во второй части статьи рассматривается проблема понимания. Предлагается концепция когнитивной семантики, основанная на идеях Дж. Лакоффа, С. Пинкера, А. Дамасио и А. Сета. В частности отмечается, что: понимание - это интерпретация в терминах картины мира человека; картину мира строит наш мозг, и она структурируется через категоризацию опыта человека; значения (смыслы) формируются раньше, чем формируются понятийные структуры; в основе значений лежат биологические и социальные цели; в когнитивных процессах участвует не только мозг, но и тело, а понимание связано с действиями в среде, знания о которой содержатся в картине мира. В заключении статьи указываются тупики, трудности и опасности на пути к сильному искусственному интеллекту.

Еще

Искусственный интеллект, машинное обучение, индукция, абдукция, понимание, когнитивная семантика, картина мира

Короткий адрес: https://sciup.org/170207425

IDR: 170207425   |   DOI: 10.18287/2223-9537-2024-14-4-466-482

Список литературы О машинном обучении, мифах о сильном искусственном интеллекте и о том, что такое понимание

  • Erik J. Larson. The Myth of Artificial Intelligence. Why Computers Can’t Think the Way We Do // The Belknap Press of Harvard University Press Cambridge, Massachusetts • London, England. 2021. 288 p.
  • Shanahan Murray. The Technological Singularity. Cambridge, MA: MIT Press, 2015, 233 p.
  • Good Irving John. Speculations Concerning the First Ultraintelligent Machine. Advances in Computers 6 (1965) 6: 31–88.
  • Глушков В.М. Интервью «Литературной газете». Литературная газета, 1975, №1.
  • Vinge Vernor. The Coming Technological Singularity: How to Survive in the Post-Human Era // in Vision-21: Interdisciplinary Science and Engineering in the Era of Cyberspace, ed. G. A. Landis, NASA Publication CP- 10129, 1993, 11–22.
  • Kurzweil Ray. The Age of Intelligent Machines. The MIT Press. 1992. 565 p.
  • Kurzweil Ray. The Age of Spiritual Machines: When Computers Exceed Human Intelligence. Penguin Books, 2000. 404 p.
  • Kurzweil Ray. The Singularity is Near: When Humans Transcend Biology. NY: Penguin Group, 2005. 652 p.
  • Neumann John von. Theory of Self-Reproducing Automata. Edited and completed by Arthur W. Burks. University of Illinois Press, 1966. 403 p. Русский перевод: Дж. Фон Нейман. Теория самовоспроизводящихся автоматов. Закончено и отредактировано А. Берксом. М.: Мир, 1971. 382 c.
  • Mange D., Stauffer A., Peparaolo L., Tempesti G. A Macroscopic View of Self-replication. Proceedings of the IEEE, 2004, 92 (12): 1929–1945.
  • Russell Stuart. Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking, 2019. 352 p. Русский перевод: Стюарт Рассел. Совместимость. Как контролировать искусственный интеллект. М.: Альпина нон-фикшн, 2021. 438 c.
  • Mitchell Melanie. Artificial Intelligence: A Guide for Thinking Humans/ New York: Farrar, Straus, and Giroux, 2019. 336 p. Русский перевод: Митчелл Мелани. Идиот или гений? Как работает и на что способен искусственный интеллект. М.: АСТ, 2022. 384 c.
  • Levesque H.J., E. Davis, Morgenstern L. The Winograd Schema Challenge // Proceedings of the Thirteenth International Conference on Principles of Knowledge Representation and Reasoning, 2012. P.552-561.
  • Davis E., Morgenstern L., Ortiz C. The Winograd Schema Challenge, https://cs.nyu.edu/~davise/papers/WinogradSchemas/WS.html.
  • Anderson Chris. The End of Theory: The Data Deluge Makes the Scientific Method Obsolete. Wired, June 23, 2008.
  • Hill Sean. Simulating the Brain/ in Gary Marcus and Jeremy Freeman, eds., The Future of the Brain: Essays by the World’s Leading Neuroscientists. Princeton, NJ: Princeton University Press, 2015, 123–124.
  • Markram Henry. Seven Challenges for Neuroscience. Functional Neurology 28 (2013): 145–151.
  • Wiener Norbert. Invention: The Care and Feeding of Ideas. Cambridge, MA: MIT Press, 1994. 159 p.
  • Thompson N.C., Greenewald K., Lee K., Manso G.F.. The Computational Limits of Deep Learning. arXiv:2007.05558v2 [cs.LG] 27 Jul 2022.
  • Jonas E., Kording K.P. Could a Neuroscientist Understand a Microprocessor? / PLoS Comput Biol. 2017, 13(1): e1005268. DOI:10.1371/journal.pcbi.1005268.
  • Осипов Г.С., Чудова Н.В., Панов А.И., Кузнецова Ю.М. Знаковая картина мира субъекта поведения. М.: Физматлит, 2018. 264 c.
  • Uexküll J. von. Umwelt und Innenwelt der Tiere. Berlin: Verlag von Julius Springer, 1909. 276 p.
  • Uexküll J. von. A Stroll through the Worlds of Animals and Men // Instinctive Behavior: The Development of a Modern Concept. N.Y.: International Universities Press, 1957. 328 p.
  • Князева Е.Н. Понятие "Umwelt" Якоба фон Икскюля и его значимость для современной эпистемологии // Вопросы философии, 2015, № 5, 30-44.
  • Lakoff G. Women, fire, and dangerous things: What categories reveal about the mind. Chicago: University of Chicago Press, 1987. 632 p. Русский перевод: Лакофф Дж. Женщины, огонь и опасные вещи: что категории языка говорят нам о мышлении. М.: Гнозис, 2011. 512 c.
  • Pinker S. The Stuff of Thought: Language as a Window into Human Nature. NY: Viking, 2008. 512 p. Русский перевод: Пинкер С. Субстанция мышления: Язык как окно в человеческую природу. М.: Книжный дом «ЛИБРОКОМ», 2013. 557 c.
  • Damasio A.R. Descartes' error: emotion, reason, and the human brain / Putnam Publishing, 1994. 312 p.
  • Seth A. Being You: A New Science of Consciousness. Faber and Faber. 2021. 352 p. Русский перевод: Анил Сет. Быть собой. Новая теория сознания. М.: Альпина нон-фикшн, 2024. 400 c.
  • Кузнецов О.П. О концептуальной семантике // Искусственный интеллект и принятие решений. 2014, №3, с.32-39.
  • Кузнецов О.П. Когнитивная семантика и искусственный интеллект // Искусственный интеллект и принятие решений. 2012, № 4, с.32-42.
  • Festinger Leon. A Theory of Cognitive Dissonance. Stanford University Press, 1962. 291 p. Русский перевод: Фестингер Л. Теория когнитивного диссонанса. Москва: Эксмо, 2018. 251 с.
  • Kahneman D. Thinking, fast and slow. Farrar, Straus and Giroux, 2011. 499 p. Русский перевод: Канеман Д. Думай медленно … решай быстро. М.: АСТ, 2013. 653 c.
  • Кузнецов О.П. Формальный подход к понятию «знание» и проблема моделирования различных типов знания // Когнитивные исследования. Сб. науч. тр. Вып. 2, М.: Институт психологии. 2008, с.265-275.
  • Кузнецов О.П. Ограниченная рациональность и принятие решений // Искусственный интеллект и принятие решений. 2019, № 1, с.3-15.
  • Sowa J.F. Conceptual Structures - Information Processing in Mind and Machines. Addison-Wesley Publ.Comp., 1984. 481 p.
  • Richard J.F. Les activités mentales. Comprendre, raisonner, trouver des solutions/ Armand Colin, 1990. 446 p. Русский перевод: Ж.Ф. Ришар. Ментальная активность. Понимание, рассуждение, нахождение решений. М.: Институт психологии РАН, 1998.
  • Minsky M. A Framework for Representing Knowledge / in. Winston P. (ed.), The Psychology of Computer Vision. N.Y., Mc Graw Hill, 1975, pp. 211-277. Русский перевод: М. Минский. Фреймы для представления знаний. – М.: Энергия, 1979.
  • Rosch E. Cognitive representations of semantic categories. Journal of Experimental Psychology, 1975. 104, P.192-233.
  • Адамар Ж. Исследование психологии процесса изобретения в области математики. Пер. с фр. М. А. Шаталовой и О. П. Шаталова; Под ред. И. Б. Погребысского. М.: Сов. радио, 1970. 150 c.
  • Карпов В.Э. Эмоции и темперамент роботов. Поведенческие аспекты // Известия РАН. Теория и системы управления. 2014. № 5. С.126–145.
Еще
Статья научная
QR-код для установки приложения SciUp Наведите камеру и скачайте бесплатное приложение SciUp