japanjournalЯпонские исследованияJapanese Studies in Russia2500-2872Association of Japanologists; Institute of China and Modern Asia of the Russian Academy of Sciences10.24412/2500-2872-2021-3-90-101japanjournal-99Research ArticleСтатьиЗлонамеренное использование дипфейков: риски информационно-психологической безопасности ЯпонииMalicious use of deepfakes: Risks for Japan’s information and psychological securityhttps://orcid.org/0000-0001-6766-1792ЛексютинаЯ. В.LeksyutinaY. V.lexyana@ya.ruСанкт-Петербургский государственный университетРоссияSaint-Petersburg State UniversityRussian Federation2021281220210390101Copyright © Лексютина Я.В., 20212021Лексютина Я.В.Leksyutina Y.V.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.japanjournal.ru/jour/article/view/99

Стремительное развитие искусственного интеллекта стимулировало появление целого ряда новых технологий, одной из которых стала технология «дипфейк» (deepfake), позволяющая синтезировать очень реалистичный поддельный видео- или аудиоконтент. Появившаяся совсем недавно, в 2017 г., эта технология буквально за несколько лет стремительно прогрессировала: поддельный контент стал очень правдоподобным, приложения по созданию дипфейков стали более дешёвыми и легкодоступными, позволяя пользователям без специальных компьютерных навыков синтезировать поддельные видео за считанные секунды. Тенденцией последних нескольких лет стал взрывной рост численности и улучшение качества дипфейков в Интернете. Открывая принципиально новые возможности для целого ряда индустрий (рекламы и медиа, индустрии развлечений и игр, киноиндустрии, медицины и т.д.), эта технология также может быть использована злоумышленниками в преступных целях, для оказания информационно-психологического воздействия на население, а также нанесения вреда межгосударственным отношениям. Риски злонамеренного использования дипфейков являются не менее реальными, чем польза от их применения. В некоторых странах мира технология «дипфейк» даже стала рассматриваться как способная, по мере её совершенствования, бросить вызов национальной безопасности и информационно-психологической безопасности. В представленной статье даётся общая картина масштабов и направленности использования дипфейков в мире, потенциала и уже имевших место кейсов злонамеренного использования технологии «дипфейк» в политической сфере, а также оцениваются риски злонамеренного использования этой технологии для Японии и восприятие рисков японской стороной.

The rapid development of artificial intelligence has spurred the emergence of a number of new technologies, including the deepfake technology, which allows synthesizing very realistic fake video and audio content. This technology, which appeared quite recently, in 2017, has rapidly advanced in just a few years: fake content has become more realistic, deepfake applications have become cheaper and more accessible, allowing users without special computer qualifications to synthesize fake videos in a matter of seconds. It has resulted in the exponential growth of deepfakes in cyberspace. Opening up fundamentally new opportunities for a whole range of industries (advertising and media, entertainment and games, film industry, medicine, etc.), this technology can also be used by malevolent actors for criminal purposes, for information and psychological attacks on the population, and also for deliberately harming state-to-state relations. The risks of malicious use of deepfakes are as real as the benefits of using them. In a number of countries, deepfake technology is already seen as presenting a variety of challenges to national security and information and psychological security in the years to come. This article provides a general overview of the scale and spheres of deepfake usage, the prospects and already registered cases of the malicious use of deepfake technology in the political sphere, and also assesses the risks of malicious use of this technology for Japan and the risk perception by Tokyo.

Япониядипфейкиискусственный интеллект (ИИ)информационно-психологическая безопасностьзлонамеренное использованиеJapandeepfakesartificial intelligence (AI)information and psychological securitymalicious useReferencesЛексютина Я.В., Михалевич Е.А., Нго Хыонг Лан. Характер межгосударственных отношений, межгосударственные противоречия и вызовы информационно-психологической безопасности в Северо-Восточной Азии. Россия и Китай: история и перспективы сотрудничества: материалы XI международной научно-практической конференции (Благовещенск, 11-12 мая 2021 г.) / отв. ред. Д.В. Кузнецов. Вып. 11. Часть 4. 2021. Благовещенск: Изд-во БГПУ. С. 76-83Лексютина Я.В., Михалевич Е.А., Нго Хыонг Лан. Характер межгосударственных отношений, межгосударственные противоречия и вызовы информационно-психологической безопасности в Северо-Восточной Азии. Россия и Китай: история и перспективы сотрудничества: материалы XI международной научно-практической конференции (Благовещенск, 11-12 мая 2021 г.) / отв. ред. Д.В. Кузнецов. Вып. 11. Часть 4. 2021. Благовещенск: Изд-во БГПУ. С. 76-83Long Kun, Ma Yue. (2019). Shēndù wèizào duì guójiā ānquán de tiǎozhàn jí yìngduì [The challenges and responses of deepfake to national security], Xìnxī ānquán yǔ tōngxìn bǎomì [Information Security and Communication Confidentiality], 10, 21-34. (In Chinese).Long Kun, Ma Yue. (2019). Shēndù wèizào duì guójiā ānquán de tiǎozhàn jí yìngduì [The challenges and responses of deepfake to national security], Xìnxī ānquán yǔ tōngxìn bǎomì [Information Security and Communication Confidentiality], 10, 21-34. (In Chinese).Artificial intelligence policies in East Asia: an overview from the Canadian perspective. 2019. Retrieved August 10, 2021, from https://www.asiapacific.ca/sites/default/files/filefield/ai_report_2019.pdfArtificial intelligence policies in East Asia: an overview from the Canadian perspective. 2019. Retrieved August 10, 2021, from https://www.asiapacific.ca/sites/default/files/filefield/ai_report_2019.pdfCiancaglini, V., Gibson, Cr., Sancho, D., et. al. (2020). Malicious uses and abuses of Artificial intelligence: Europol public information. Retrieved May 10, 2021, from https://documents.trendmicro.com/assets/white_papers/wp-malicious-uses-and-abuses-of-artificial-intelligence.pdfCiancaglini, V., Gibson, Cr., Sancho, D., et. al. (2020). Malicious uses and abuses of Artificial intelligence: Europol public information. Retrieved May 10, 2021, from https://documents.trendmicro.com/assets/white_papers/wp-malicious-uses-and-abuses-of-artificial-intelligence.pdfHofesmann, E. (November 19, 2020). The state of deepfakes in 2020. Retrieved August 11, 2021, from https://www.skynettoday.com/overviews/state-of-deepfakes-2020Hofesmann, E. (November 19, 2020). The state of deepfakes in 2020. Retrieved August 11, 2021, from https://www.skynettoday.com/overviews/state-of-deepfakes-2020Masood, M., Nawaz, M., et al. (2021). Deepfakes generation and detection: state-of-the-art, open challenges, countermeasures, and way forward. Retrieved August 15, 2021, from https://arxiv.org/ftp/arxiv/papers/2103/2103.00484.pdfMasood, M., Nawaz, M., et al. (2021). Deepfakes generation and detection: state-of-the-art, open challenges, countermeasures, and way forward. Retrieved August 15, 2021, from https://arxiv.org/ftp/arxiv/papers/2103/2103.00484.pdfNelson, A. (October 23, 2019). Trust your eyes? Deepfakes policy brief. Retrieved August 13, 2021, from https://www.csis.org/analysis/trust-your-eyes-deepfakes-policy-briefNelson, A. (October 23, 2019). Trust your eyes? Deepfakes policy brief. Retrieved August 13, 2021, from https://www.csis.org/analysis/trust-your-eyes-deepfakes-policy-briefRini, R. (2020). Deepfakes and the epistemic backstop. Philosopher’s Imprint, 20(24), 1-16. Retrieved August 15, 2021, from https://philpapers.org/archive/RINDAT.pdfRini, R. (2020). Deepfakes and the epistemic backstop. Philosopher’s Imprint, 20(24), 1-16. Retrieved August 15, 2021, from https://philpapers.org/archive/RINDAT.pdfSayler, K. (June 8, 2021). Deep fakes and national security. CRS report. Retrieved August 15, 2021, from https://crsreports.congress.gov/product/pdf/IF/IF11333Sayler, K. (June 8, 2021). Deep fakes and national security. CRS report. Retrieved August 15, 2021, from https://crsreports.congress.gov/product/pdf/IF/IF11333Sizing the prize. (2017). What’s the real value of AI for your business and how can you capitalise? PwC report. Retrieved August 10, 2021, from https://www.pwc.com/gx/en/issues/analytics/assets/pwc-ai-analysis-sizing-the-prize-report.pdfSizing the prize. (2017). What’s the real value of AI for your business and how can you capitalise? PwC report. Retrieved August 10, 2021, from https://www.pwc.com/gx/en/issues/analytics/assets/pwc-ai-analysis-sizing-the-prize-report.pdfThe state of deepfakes: landscape, threats, and impact. (2019). Retrieved August 12, 2021, from https://regmedia.co.uk/2019/10/08/deepfake_report.pdfThe state of deepfakes: landscape, threats, and impact. (2019). Retrieved August 12, 2021, from https://regmedia.co.uk/2019/10/08/deepfake_report.pdfThe state of deepfakes: updates on statistics and trends. (2021). Retrieved August 15, 2021, from https://sensity.ai/reports/The state of deepfakes: updates on statistics and trends. (2021). Retrieved August 15, 2021, from https://sensity.ai/reports/

The authors declare that there are no conflicts of interest present.