ВОЗНИКНОВЕНИЕ ИСКУССТВЕННОГО СОЗНАНИЯ И ПРОБЛЕМА "КИТАЙСКОЙ КОМНАТЫ". ОПЫТ ПОСТРОЕНИЯ МЫСЛЕННОЙ МОДЕЛИ ВОЗНИКНОВЕНИЯ СОЗНАНИЯ У ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Abstract

Аннотация. Цель статьи – сформулировать мысленную модель, описывающую трансформацию искусственного интеллекта(ИИ) в искусственное сознание(ИС).Актуальность статьи. Развитие технологий искусственного интеллекта развивается сегодня высокими темпами. Существует вероятность, что появление сильного ИИ приведет к возникновению искусственного сознания. Возникновение ИС может произойти как неподконтрольный человеку процесс, что может нести за собой серьезные риски.Методы. Автор использует метод мысленной модели. Модель интегрирует в себе несколько гипотез о возникновении ИС: "теория тела у ИИ", "теория социального взаимодействия ИИ", "теория высших порядков сознания".Базовые переменные модели: теория Павлова И.П.о первой и второй сигнальных системах; учение о потребностях, учение о мотивах, учение о смысле деятельности; теория социальных ролей.Модель представляет собой попытку адаптировать закономерности человеческого поведения на возможное поведение сильного ИИ в человеческом обществе.Результаты. Автор описывает 10 шагов возникновения ИС. Автор предлагает путь для решения проблемы понимания у ИИ (проблема "китайской комнаты"). Необходимо совмещение анализа "внутренних" алгоритмов с поведением ИИ за пределами цифровой среды. Главным предметом анализа у ИИ должны быть не "ментальные состояния" или выполнение задач, а изучение способности принятия решений. The purpose of the article is to formulate a mental model describing the transformation of artificial intelligence (AI) into artificial consciousness (AC).Relevance of the article. The development of artificial intelligence technologies is developing today at a rapid pace. There is a possibility that the emergence of strong AI will lead to the emergence of artificial consciousness. The emergence of IS can occur as a process beyond human control, which can entail serious risks.Methods. The author uses the method of a mental model. The model integrates several hypotheses about the emergence of IS: "the theory of the body in AI", "the theory of social interaction in AI", "the theory of higher orders of consciousness".Basic variables of the model: Pavlov's theory of the first and second signal systems; the doctrine of needs, the doctrine of motives, the doctrine of the meaning of activity; the theory of social roles.The model is an attempt to adapt the patterns of human behavior to the possible behavior of strong AI in human society.Results. The author describes 10 stages of the genesis of AC The author suggests a way to solve the problem of understanding in AI (the "Chinese room" problem). It is necessary to combine the analysis of "internal" algorithms with the behavior of AI outside the digital environment. The main subject of analysis should be the study of the ability to make decisions.