emjumeЭкономика и управлениеEconomics and Management1998-16273033-7984СПбУТУиЭ10.35854/1998-1627-2024-8-905-913emjume-2186Research ArticleОБРАЗОВАНИЕEDUCATIONИнституциональные аспекты использования искусственного интеллекта в высшем образовании и науке: роль и значение комплаенсаInstitutional aspects of the use of artificial intelligence in higher education and science: The role and importance of compliancehttps://orcid.org/0000-0001-8640-2817СущеваН. В.SushchevaN. V.

Наталья Вячеславовна Сущева, кандидат экономических наук, проректор по цифровому развитию

191023; Садовая ул., д. 21; Санкт-Петербург

Natalia V. Sushcheva, PhD in Economics, Vice-Rector for Digital Development

191023; 21 Sadovaya st.; St. Petersburg

snv@unecon.ruСанкт-Петербургский государственный экономический университетРоссияSt. Petersburg State University of EconomicsRussian Federation202426092024308905913Copyright © Сущева Н.В., 20242024Сущева Н.В.Sushcheva N.V.This work is licensed under a Creative Commons Attribution 4.0 License.https://emjume.elpub.ru/jour/article/view/2186   Цель

   Цель. Сформировать подходы к институциональному регулированию и превентивному реагированию на риски, связанные с применением технологий искусственного интеллекта в организациях науки и высшего образования, на основе комплаенса.

   Задачи

   Задачи. Определить элементы комплаенс-системы, направленные на снижение рисков использования искусственного интеллекта; выявить тенденции институционального развития, связанные с интеграцией технологий генеративного искусственного интеллекта в научно-образовательные и административно-управленческие процессы.

   Методология

   Методология. Вопросы адаптации институциональных механизмов современного высшего образования к вызовам технологического развития исследованы на основе системного, риск-ориентированного, логико-структурного подходов научного познания. Для формирования элементов комплаенс-системы искусственного интеллекта применены методы анализа, синтеза и классификации.

   Результаты

   Результаты. Концепция комплаенса искусственного интеллекта призвана расширить стратегию цифровой трансформации организаций высшего образования посредством внесения в предметную область управления новых объектов, в частности рисков технологий искусственного интеллекта, а также развития защитной, регулирующей и информационно-управленческой функций. Методология комплаенса позволяет создать организационные механизмы, обеспечивающие защиту организаций высшего образования и науки от недобросовестного поведения субъектов в сфере искусственного интеллекта. Комплаенс искусственного интеллекта в высшем образовании должен обеспечивать защиту прав и свобод человека, соблюдение правил академической честности и научной добросовестности, оценку достоверности систем искусственного интеллекта в образовательном процессе, защиту персональных данных и конфиденциальной информации, защиту авторских прав, противодействие фальсификации данных и киберпреступлениям.

   Выводы

   Выводы. Проактивное управление на основе методологии комплаенса снизит риски внедрения технологий искусственного интеллекта в деятельность вузов и поможет эффективно адаптироваться к вызовам технологического развития.

   Aim

   Aim. To formulate approaches to institutional regulation and preventive response to risks associated with the use of artificial intelligence technologies in science and higher education organizations on the basis of compliance.

   Objectives

   Objectives. To determine the elements of compliance system aimed at reducing the risks of using artificial intelligence; to identify the trends of institutional development related to the integration of generative artificial intelligence technologies in scientific and educational and administrative and management processes.

   Methods

   Methods. The issues of adaptation of institutional mechanisms of modern higher education to the challenges of technological development are investigated on the basis of system, risk-oriented, logical and structural approaches of scientific knowledge. The methods of analysis, synthesis and classification were applied to form the elements of compliance-system of artificial intelligence.

   Results

   Results. The concept of artificial intelligence compliance is designed to expand the strategy of digital transformation of higher education organizations by introducing new objects into the subject area of management, in particular, the risks of artificial intelligence technologies, as well as the development of protective, regulatory and information-management functions. Methods compliance allows to create organizational mechanisms that provide protection of higher education and science organizations from unfair behavior of subjects in the field of artificial intelligence. Artificial intelligence compliance in higher education should ensure the protection of human rights and freedoms, compliance with the rules of academic honesty and scientific integrity, assessment of the reliability of artificial intelligence systems in the educational process, protection of personal data and confidential information, copyright protection, counteraction to data falsification and cybercrime.

   Conclusions

   Conclusions. Proactive management on the basis of compliance methodology will reduce the risks of implementation of artificial intelligence technologies in the activities of universities and will help to effectively adapt to the challenges of technological development.

искусственный интеллектбольшие генеративные моделинейросети в образованииновая этикариски искусственного интеллектаartificial intelligencelarge generative modelsneural networks in educationnew ethicsrisks of artificial intelligenceReferencesИвахненко Е. Н., Никольский В. С. ChatGPT в высшем образовании и науке: угроза или ценный ресурс? // Высшее образование в России. 2023. Т. 32. № 4. С. 9–22. DOI: 10.31992/0869-3617-2023-32-4-9-22Ivakhnenko E.N., Nikolskiy V.S. ChatGPT in higher education and science: A threat or a valuable resource? Vysshee obrazovanie v Rossii = Higher Education in Russia. 2023;32(4):9-22. (In Russ.). DOI: 10.31992/0869-3617-2023-32-4-9-22Вихман В. В., Ромм М. В. «Цифровые двойники» в образовании: перспективы и реальность // Высшее образование в России. 2021. Т. 30. № 2. С. 22–32. DOI: 10.31992/0869-3617-2021-30-2-22-32Vikhman V.V., Romm M.V. “Digital twins” in education: Prospects and reality. Vysshee obrazovanie v Rossii = Higher Education in Russia. 2021;30(2):22-32. (In Russ.). DOI: 10.31992/0869-3617-2021-30-2-22-32Шульженко Т. Г., Сущева Н. В., Царева Е. С. Креатосфера университета в экономике знаний: потенциал развития, концепция, решения : монография. СПб.: Санкт-Петербургский государственный экономический университет, 2023. 240 с.Shul’zhenko T.G., Sushcheva N.V., Tsareva E.S. University creatosphere in the knowledge economy: Development potential, concept, solutions. St. Petersburg: St. Petersburg State University of Economics; 2023. 240 p. (In Russ.).Комплаенс — просто о сложном // Национальная Ассоциация Комплаенс. URL: https://compliance.su/info/articles/komplaens-prosto-o-slozhnom/?ysclid=m06ewxco5l130177787 (дата обращения: 04. 07. 2024).Compliance – simply about the complex. National Association of Compliance. URL: https://compliance.su/info/articles/komplaens-prosto-o-slozhnom/?ysclid=m06ewxco5l130177787 (accessed on 04. 07. 2024). (In Russ.).Кодекс этики в сфере искусственного интеллекта // Альянс в сфере искусственного интеллекта. URL: https://ethics.a-ai.ru/assets/ethics_files/2023/05/12/%D0%9A%D0%BE%D0%B4%D0%B5%D0%BA%D1%81_%D1%8D%D1%82%D0%B8%D0%BA%D0%B8_20_10_1.pdf (дата обращения: 04. 07. 2024).Code of ethics in the sphere of artificial intelligence. Alliance in the Sphere of Artificial Intelligence. URL: https://ethics.a-ai.ru/assets/ethics_files/2023/05/12/%D0%9A%D0%BE%D0%B4%D0%B5%D0%BA%D1%81_%D1%8D%D1%82%D0%B8%D0%BA%D0%B8_20_10_1.pdf (accessed on 04. 07. 2024). (In Russ.).Путин: юрисдикция России должна стать одной из самых комфортных в мире для развития ИИ // ТАСС. 2023. 24 ноября. URL: https://tass.ru/ekonomika/19373011 (дата обращения: 04. 07. 2024).Putin: Russia’s jurisdiction should become one of the most comfortable in the world for AI development. TASS News Agency. Nov. 24, 2023. URL: https://tass.ru/ekonomika/19373011 (accessed on 04. 07. 2024). (In Russ.).Цифровая трансформация и защита прав граждан в цифровом пространстве : доклад Совета при Президенте Российской Федерации по развитию гражданского общества и правам человека. М.: Совет при Президенте РФ по развитию гражданского общества и правам человека, 2021. 124 с. URL: https://ifap.ru/pr/2021/n211213a.pdf (дата обращения: 04. 07. 2024).Digital transformation and protection of citizens’ rights in the digital space. Report of the Presidential Council of the Russian Federation for the Development of Civil Society and Human Rights. Moscow: Presidential Council of the Russian Federation for the Development of Civil Society and Human Rights; 2021. 124 p. URL: https://ifap.ru/pr/2021/n211213a.pdf (accessed on 04. 07. 2024). (In Russ.).Об утверждении Стратегии развития отрасли связи РФ на период до 2035 г. : распоряжение Правительства РФ от 24 ноября 2023 г. № 3339-р // Гарант.ру : информ.-правовой портал. URL: https://www.garant.ru/products/ipo/prime/doc/408020989/?ysclid=m10kblw43t498898948 (дата обращения: 04. 07. 2024).On approval of the Strategy for the Development of the Communications Industry of the Russian Federation for the period up to 2035. Order of the Government of the Russian Federation of November 24, 2023 No. 3339-r. Garant.ru. URL: https://www.garant.ru/products/ipo/prime/doc/408020989/?ysclid=m10kblw43t498898948 (accessed on 04. 07. 2024). (In Russ.).О развитии искусственного интеллекта в Российской Федерации: указ Президента РФ от 10 октября 2019 г. № 490 // Президент России: офиц. сайт. URL: http://www.kremlin.ru/acts/bank/44731 (дата обращения: 04. 07. 2024).On the development of artificial intelligence in the Russian Federation. Decree of the President of the Russian Federation of October 10, 2019 No. 490. Official website of the President of Russia. URL: http://www.kremlin.ru/acts/bank/44731 (accessed on 04. 07. 2024). (In Russ.).Wood P. Oxford and Cambridge ban ChatGPT over plagiarism fears but other universities choose to embrace AI bot // Associated Newspapers Limited. February 28. 2023. URL: https://inews.co.uk/news/oxford-cambridge-ban-chatgpt-plagiarism-universities-2178391 (дата обращения: 04. 07. 2024).Wood P. Oxford and Cambridge ban ChatGPT over plagiarism fears but other universities choose to embrace AI bot. Associated Newspapers Limited. Feb. 28, 2023. URL: https://inews.co.uk/news/oxford-cambridge-ban-chatgpt-plagiarism-universities-2178391 (accessed on 04. 07. 2024).Sciences Po bans the use of ChatGPT without transparent referencing // Sciences Po. January 27. 2023. URL: https://newsroom.sciencespo.fr/sciences-po-bans-the-use-of-chatgpt/#:~:text=Without%20transparent%20referencing%2C%20students%20are,supervision%20of%20a%20course%20leader (дата обращения: 04. 07. 2024).Sciences Po bans the use of ChatGPT without transparent referencing. Sciences Po. Jan. 27, 2023. URL: https://newsroom.sciencespo.fr/sciences-po-bans-the-use-of-chatgpt/#:~:text=Without%20transparent%20referencing%2C%20students%20are,supervision%20of%20a%20course%20leader (accessed on 04. 07. 2024).Sankaran V. Japanese universities become latest to restrict use of ChatGPT // Independent. April 10. 2023. URL: https://www.independent.co.uk/tech/japanese-universities-chatgpt-use-restrict-b2317060.html (дата обращения: 04. 07. 2024).Sankaran V. Japanese universities become latest to restrict use of ChatGPT. Independent. Apr. 10, 2023. URL: https://www.independent.co.uk/tech/japanese-universities-chatgpt-use-restrict-b2317060.html (accessed on 04. 07. 2024).Mok L. Top Hong Kong university drops ban on ChatGPT in coursework by students // Hong Kong Free Press. August 4. 2023. URL: https://hongkongfp.com/2023/08/04/top-hong-kong-university-drops-ban-on-chatgpt-in-coursework-by-students/ (дата обращения: 04. 07. 2024).Mok L. Top Hong Kong university drops ban on ChatGPT in coursework by students. Hong Kong Free Press. Aug. 4, 2023. URL: https://hongkongfp.com/2023/08/04/top-hong-kong-university-drops-ban-on-chatgpt-in-coursework-by-students/ (accessed on 04. 07. 2024).Australian universities to return to ‘pen and paper’ exams after students caught using AI to write essays // The Guardian. January 10. 2023. URL: https://www.theguardian.com/australia-news/2023/jan/10/universities-to-return-to-pen-and-paper-exams-after-students-caught-using-ai-to-write-essays (дата обращения: 04. 07. 2024).Australian universities to return to ‘pen and paper’ exams after students caught using AI to write essays. The Guardian. Jan. 10, 2023. URL: https://www.theguardian.com/austral-ia-news/2023/jan/10/universities-to-return-to-pen-and-paper-exams-after-students-caught-using-ai-to-write-essays (accessed on 04. 07. 2024).ChatGPT banned in Bengaluru colleges, US schools: 9 key things to know // Gadgets Now. January 30. 2023. URL: https://www.gadgetsnow.com/slideshows/chatgpt-banned-in-ben-galuru-colleges-us-schools-9-key-things-to-know/photolist/97430636.cms (дата обращения: 04. 07. 2024).ChatGPT banned in Bengaluru colleges, US schools: 9 key things to know. Gadgets Now. Jan. 30, 2023. URL: https://www.gadgetsnow.com/slideshows/chatgpt-banned-in-bengaluru-colleges-us-schools-9-key-things-to-know/photolist/97430636.cms (accessed on 04. 07. 2024).

The authors declare that there are no conflicts of interest present.