Злонамеренное использование дипфейков: риски информационно-психологической безопасности Японии

Стремительное развитие искусственного интеллекта стимулировало появление целого ряда новых технологий, одной из которых стала технология «дипфейк» (deepfake), позволяющая синтезировать очень реалистичный поддельный видео- или аудиоконтент. Появившаяся совсем недавно, в 2017 г., эта технология буквально за несколько лет стремительно прогрессировала: поддельный контент стал очень правдоподобным, приложения по созданию дипфейков стали более дешёвыми и легкодоступными, позволяя пользователям без специальных компьютерных навыков синтезировать поддельные видео за считанные секунды. Тенденцией последних нескольких лет стал взрывной рост численности и улучшение качества дипфейков в Интернете. Открывая принципиально новые возможности для целого ряда индустрий (рекламы и медиа, индустрии развлечений и игр, киноиндустрии, медицины и т.д.), эта технология также может быть использована злоумышленниками в преступных целях, для оказания информационно-психологического воздействия на население, а также нанесения вреда межгосударственным отношениям. Риски злонамеренного использования дипфейков являются не менее реальными, чем польза от их применения. В некоторых странах мира технология «дипфейк» даже стала рассматриваться как способная, по мере её совершенствования, бросить вызов национальной безопасности и информационно-психологической безопасности. В представленной статье даётся общая картина масштабов и направленности использования дипфейков в мире, потенциала и уже имевших место кейсов злонамеренного использования технологии «дипфейк» в политической сфере, а также оцениваются риски злонамеренного использования этой технологии для Японии и восприятие рисков японской стороной.

Япония, дипфейки, искусственный интеллект (ИИ), информационно-психологическая безопасность, злонамеренное использование

1. Лексютина Я.В., Михалевич Е.А., Нго Хыонг Лан. Характер межгосударственных отношений, межгосударственные противоречия и вызовы информационно-психологической безопасности в Северо-Восточной Азии. Россия и Китай: история и перспективы сотрудничества: материалы XI международной научно-практической конференции (Благовещенск, 11-12 мая 2021 г.) / отв. ред. Д.В. Кузнецов. Вып. 11. Часть 4. 2021. Благовещенск: Изд-во БГПУ. С. 76-83

2. Long Kun, Ma Yue. (2019). Shēndù wèizào duì guójiā ānquán de tiǎozhàn jí yìngduì [The challenges and responses of deepfake to national security], Xìnxī ānquán yǔ tōngxìn bǎomì [Information Security and Communication Confidentiality], 10, 21-34. (In Chinese).

3. Artificial intelligence policies in East Asia: an overview from the Canadian perspective. 2019. Retrieved August 10, 2021, from https://www.asiapacific.ca/sites/default/files/filefield/ai_report_2019.pdf

4. Ciancaglini, V., Gibson, Cr., Sancho, D., et. al. (2020). Malicious uses and abuses of Artificial intelligence: Europol public information. Retrieved May 10, 2021, from https://documents.trendmicro.com/assets/white_papers/wp-malicious-uses-and-abuses-of-artificial-intelligence.pdf

5. Hofesmann, E. (November 19, 2020). The state of deepfakes in 2020. Retrieved August 11, 2021, from https://www.skynettoday.com/overviews/state-of-deepfakes-2020

6. Masood, M., Nawaz, M., et al. (2021). Deepfakes generation and detection: state-of-the-art, open challenges, countermeasures, and way forward. Retrieved August 15, 2021, from https://arxiv.org/ftp/arxiv/papers/2103/2103.00484.pdf

7. Nelson, A. (October 23, 2019). Trust your eyes? Deepfakes policy brief. Retrieved August 13, 2021, from https://www.csis.org/analysis/trust-your-eyes-deepfakes-policy-brief

8. Rini, R. (2020). Deepfakes and the epistemic backstop. Philosopher’s Imprint, 20(24), 1-16. Retrieved August 15, 2021, from https://philpapers.org/archive/RINDAT.pdf

9. Sayler, K. (June 8, 2021). Deep fakes and national security. CRS report. Retrieved August 15, 2021, from https://crsreports.congress.gov/product/pdf/IF/IF11333

10. Sizing the prize. (2017). What’s the real value of AI for your business and how can you capitalise? PwC report. Retrieved August 10, 2021, from https://www.pwc.com/gx/en/issues/analytics/assets/pwc-ai-analysis-sizing-the-prize-report.pdf

11. The state of deepfakes: landscape, threats, and impact. (2019). Retrieved August 12, 2021, from https://regmedia.co.uk/2019/10/08/deepfake_report.pdf

12. The state of deepfakes: updates on statistics and trends. (2021). Retrieved August 15, 2021, from https://sensity.ai/reports/