2023年，人工智能（AI）在全球范围引发了大量讨论。“ChatGPT”等生成式AI在各国的应用迅速增加，AI的应用“热潮”成为了引发讨论的重要契机。七国集团（G7）等也在推进新的规则的制定。在2023年12月6日举行的一次在线会议上，G7领导人在“广岛AI进程”的基础上对AI的利用和监管国际指导方针达成了一致。方针明确了从开发者到使用者的“所有相关方”应承担的责任，成为全面性的一揽子国际规则。
各国使用生成式AI的人数在急剧增加，涉及到各种不同的应用场景。而与此同时，由生成式AI制作的虚假信息、虚假视频和虚假新闻在社交媒体上不断传播，扰乱了人们的判断依据和社会秩序，成为一个深刻的问题。包括日本在内的各国政府高度重视这一现象，并采取了紧急措施。2024年，日本、欧洲等先进国家将继续推进以“安全、安心、可信赖的AI”为目标，推进讨论人与AI的共存。
为讨论人工智能对策等问题，G7领导人于2023年12月6日在线召开了会议（照片由日本内阁公报室提供）
“ChatGPT”的快速普及带来期待与担忧
ChatGPT是美国新兴企业OpenAI于2022年11月公开的一款对话型软件，是目前最具有代表性的生成式AI。它基于对互联网上庞大数据进行AI学习得到的数据，根据用户的需求生成文本、图像、音频等，并提供给用户。2023年该公司陆续发布了改进版，其他科技公司也纷纷推出了自己的生成式AI，有人称此为“生成式AI大诞生时代”。
随着用户数量迅速增加，相关服务也相应增多，生成式AI在全球迅速普及。其应用领域广泛，涵盖商业、行政、教育等多个领域，人们对这一工具的期望也越来越高。但同时也出现了一些问题，例如在生成式AI的学习过程中，有未经许可使用文章、论文、照片等图像，甚至滥用个人信息的情况。这不仅侵犯了版权，还会导致虚假信息和视频的传播，成为全球性的社会问题。在日本，随着利用ChatGPT的企业和地方政府增加，对于其使用的赞成和反对之争引起了热烈的讨论，一些大学为了阻止学生过于轻率地使用生成式AI还制定了一些校规。
文部科学省于2023年7月公布了关于在中小学使用生成式AI的指南。指南具体说明了在小组讨论和编程学习等方面的有效运用方法，同时明确指出不能在考试和写作文时使用。教育专家们对于在学校使用生成式AI的评价存在分歧，有人指出生成式AI可能对批判性思维和创造力的培养产生负面影响。
随着ChatGPT的普及，人们对生成式AI的期待和担忧开始交织在一起，欧洲各国迅速出台了相关规定。G7也高度重视这一情况，2023年5月，日本在其担任主席国的G7领导人会议（广岛峰会）上决定创建“广岛AI进程”，主导并召开了相关国际会议，推进相关工作。
OpenAI的ChatGPT的官方网站截图
明确提出“应尊重人权和人类中心主义”
G7于2023年12月1日在线上召开了数字技术部长会议，会议基于广岛AI进程制定了国际指导方针，并通过了部长声明。参加此次会议的有日本总务省、经济产业省、数字厅等机构，还有经济合作与发展组织（OECD）等国际机构。这一指导方针在2023年12月6日的领导人会议上最终达成一致。这是首次形成涉及AI的全面的国际指导方针。尽管没有法律约束力，但预计会在今后各国制定关于AI应用和监管的法规时产生影响。
此次国际指导方针的最大特点是，它不仅针对开发者或制作者，而是包括了利用者在内的“所有AI相关方”。具体由针对相关方的指导方针和开发者应遵循的具体措施的行为准则组成。指导方针和行为准则各由12个要点构成。
指导方针明确指出，“这是以在全球普及安全、安心、可信赖的AI为目的，为开发和利用包括生成式AI在内的最先进的AI系统的组织提供的指导方针”，并提出“应尊重人权、多样性、公平性、无歧视、民主主义、人类中心主义”。在此基础上，要求采取适当措施来评估并降低与AI相关的风险，保护个人信息和知识产权，制定滥用对策，并开发能让用户辨别出是AI生成的内容的技术。
指导方针的具体内容包括：为提高AI系统的安全性和可信度，相关组织应进行信息共享并向社会报告；推进技术开发，例如能让用户辨别出生成式AI创建的内容“电子水印”等；优先推进防止偏见和虚假信息的研究等。
基于广岛AI进程制定的国际指导方针12项目（出自日本外务省/首相官邸）
基于广岛AI进程的国际指导方针开篇部分（出自日本外务省）
欧美各国和日本正在制定各自的规则
G7领导人就国际指导方针达成一致之后，各国纷纷开始推进各自的规则制定工作。欧盟（EU）非常重视AI的伦理问题，在监管方面走在了前列。据共同通信社布鲁塞尔支局报道，欧盟于12月9日就包括生成AI在内的AI全面监管法案的大致内容达成了一致。与不具备法律拘束力的G7的国际指导方针不同，欧盟的该法案包括制裁手段，具有强制力。
预计该法案最早将在2026年实施，成为全球首个最全面的人工智能法规。违反规定的最严重情况会面临高达3500万欧元或年销售额7％的巨额罚款。欧盟在像美国和中国一样致力于AI开发的同时，对人权和民主主义可能受到的负面影响有着强烈的担忧，于是尽量迅速制定了具体的法律法规。
对AI进行监管的趋势是全球性的。美国总统拜登于10月签署了一项总统令，要求可能涉及国家安全的先进AI技术的开发企业与政府分享相关信息。英国政府于11月初举办了“全球AI安全峰会”，通过了《布莱奇利宣言》，日本首相岸田文雄在线参与了此次峰会。该宣言由日本、美国、中国、欧盟等28个国家共同签署，确认了加强国际合作，以降低AI风险防止滥用的方针。
日本方面，总务省和经济产业省等机构一直在以政府的AI战略会议为中心，探讨AI的应用和监管策略。在2023年12月21日的AI战略会议上，提出了针对AI相关企业的指导方针草案。该草案沿袭G7国际指导方针，中心内容是围绕对人权问题以及虚假信息和伪造视频对策等的10个原则。日本政府计划在2024年初向公众征求意见，并在3月正式发布指导方针。出席会议的岸田首相明确表示，计划在2024年1月设立“AI Safety Institute”（AI安全研究所），研究AI安全性评估方法等。
2023年12月21日在首相官邸召开的AI战略会议。最左为日本首相岸田文雄（照片出自首相官邸／内阁广报室）
日本政府AI战略会议起草的AI企业指导方针草案概要（出自总务省／经济产业省）
迫切需要防止滥用及防止被害措施
在AI的滥用中，目前最令人担忧的是被称为“Deepfake”（深度伪造）的虚假视频。其危险性早在数年前就引起了关注，但随着生成式AI的普及，从2022年开始，世界各国虚假视频的传播急剧增加，国际社会的关注和担忧也日益增强。
举个例子，在俄罗斯乌克兰冲突爆发后，有一段乌克兰总统泽连斯基呼吁乌克兰军队投降的虚假视频被热传。最近的一个例子是在加沙地带发生的哈马斯组织与以色列军队的战斗的虚假视频在传播。另据报道，与2024年美国总统选举有关的虚假视频也已经开始在网上流传。
在日本，2023年11月初，一段AI制作的以岸田首相的声音和形象发表粗鄙言论的虚假视频在社交媒体上传播。政府已决定由各相关部门合作制定相关对策，并在AI战略会议等场合继续讨论此事。
利用生成式AI技术创建的虚假视频很难分辨。然而，对抗先进技术的唯一途径就是使用更先进的技术。技术开发将成为应对这一问题的关键。
东京大学研究生院信息理工学研究科的一个团队在2023年4月宣布开发出了一种以全球最高水准检测Deepfake的方法，获得了国内外的关注。据称，这种方法可以发现非常微小的伪造痕迹。目前，包括微软在内的许多全球性AI巨头也在紧急开发检测软件。
G7的国际指导方针中包括了针对虚假信息传播等问题的对策，其中也包括虚假视频。而今后的课题则是有效且具体的预防措施。对生成式AI的滥用是一个全球性问题，仅靠一个国家难以解决。各国需要尽可能地交换所研发的技术和信息，国际合作至关重要。需要集结全球智慧，找到防止AI滥用和防止受害的具体措施。
随着生成式AI的出现，许多人开始思考与AI相关的各种问题。如何明智地使用AI，如何与之共存共荣，这些问题不能靠生成式AI来回答，这是人类必须思考的问题。生成式AI火爆全球的2023年已经结束。2024年，我们应该基于国际指南，冷静地思考人类与AI如何共存，并认真考虑如何巧妙地利用人类的智慧。
虚假视频示意图
原文：内城喜贵／科学记者、共同通信社客座评论委员/JST Science Portal 编辑部
翻译：JST客观日本编辑部
【相关链接】
G7首脑线上会议（概要）
日本内阁府“AI战略会议”召开一览
关于广岛AI进程的 G7首脑声明
东京大学新闻发布稿“成功实现世界最高水准的深度伪造检测”
日本内阁府“AI战略会议”第七次会议
日本首相官邸“AI战略会议”第七次会议 网页
