{ "type" : "Article", "id" : 68519857, "languageId" : 4, "trackingInfo" : { "level2" : "4", "page" : "::在线报导::政治::欧盟出台全球首部人工智能法", "customCriteria" : { "x8" : "", "x9" : "20240314", "x10" : "::在线报导::政治", "x1" : "1", "x2" : "4", "X14" : "", "x3" : "68519857", "x4" : "1681", "x5" : "欧盟出台全球首部人工智能法", "X15" : "", "x6" : "1", "X18" : "", "x7" : "" } }, "mainContent" : { "id" : 68158578, "type" : "Image", "name" : "Stempel mit Aufschrift KI-Verordnung", "sizes" : [ { "width" : 220, "height" : 124, "url" : "https://static.dw.com/image/68158578_301.jpg" }, { "width" : 460, "height" : 259, "url" : "https://static.dw.com/image/68158578_302.jpg" }, { "width" : 700, "height" : 394, "url" : "https://static.dw.com/image/68158578_303.jpg" }, { "width" : 940, "height" : 529, "url" : "https://static.dw.com/image/68158578_304.jpg" } ] }, "name" : "欧盟出台全球首部人工智能法", "teaser" : "周三，欧盟议会通过了规范人工智能应用的新法律，这也是全球范围内，第一部涉及人工智能的法律。欧盟期望通过这部法律保障民众的数据安全，但企业界则担心，新法会对技术创新构成障碍。", "categoryName" : "政治", "text" : "（德国之声中文网）汽车导航、自动翻译以及智能手机的脸部解锁，我们日常生活中，人工智能已经无所不在。欧盟期望通过一部\"历史性\"的法律文件，让人工智能的使用变得更为安全。 周三，欧盟议会多数通过了一项涉及人工智能的新法律。欧盟议会称，这是全球范围内，第一部对人工智能技术进行规范的法律文件。今后人工智能系统将被划分成不同的风险等级，风险系数越高，应用人工智能的门槛也就越高。 一般来说，人工智能是指借助软件对大量数据过滤分析，并得出结论的机器学习过程。目前，人工智能已经得到广泛应用，比如，借助人工智能对CT图像进行评估，其准确度和速度都绝非人工可以比拟的。 布鲁塞尔认为，相关法律的出台具有\"历史意义\"，而经济界则担心，这一法规可能会对企业的创新精神构成障碍。那么这部法律具有都有哪些内容呢： 哪些情况下，禁用人工智能？ 今后基于人的政治理念、宗教信仰、性取向以及肤色，而进行人群划分的人工智能系统将被禁止。在中国已经被广泛使用的、基于个人行为或个人特征的所谓社会信用系统，在欧盟则被禁止。 企业不得使用人工智能技术观察员工的情绪变化。该技术也不得用于违背当事人意愿对其施加影响。此外，也不得因年龄、残疾或经济状况等原因，对当事人进行歧视性对待。 使用人脸识别技术，都有哪些限制？ 只有法官发布相应指令的前提下，警方和安全机构才可以在公共场合使用以人工智能为基础的人脸识别技术。德国已经在柏林火车站等地开展相关的试验。 警方在追捕重案嫌疑人或通缉已经判决的罪犯时，可以用人工智能技术对录制好的视频资料进行分析。而在搜寻贩卖犯罪或性暴力受害者时，警方也可以对实时监控视频使用人工智能。此外，在遇到\"具体及紧急的恐怖袭击危险\"时，警方也可使用人脸识别技术。 哪些人工智能应用属于\"高风险\"？ 欧盟新法认定，安全机构在使用人工智能时，原则上存在侵犯人权的\"高风险\"。同样，在敏感基础设施和人事管理方面，应用人工智能也属于高风险。此外，有可能会对选举发生影响的人工智能应用，也被划归\"高风险\"类别。 在上述领域，必须由一名专人对人工智能作出的决策进行最后把关。另外，这项法律还规定，相关机构必须设立技术文本档案以及风险管控机制。使用人工智能的部门还应开辟相应投诉渠道，保障当事人权益。 如何确保人工智能系统的质量？ 今后，软件开发人员必须对基于人工智能的文字、图片和视频进行明确的标注。这条规定同样也适用于脸书、Instagram和X等平台上发表的贴文。不过，专家们认为，实际执行这一条款难度将会很大。 新的人工智能系统需要用适当规模的数据库进行研发和训练。因此，相关的人工智能软件获准进入市场前，有关当局应为人工智能领域的初创公司提供方便，让他们拥有符合现实情况的试验环境。此外，人工智能法还将强化专利产权的保护。 人工智能法对工业界将产生哪些影响？ 各工业协会担心，欧盟制定的新法为研发新型人工智能应用设置了难以逾越的障碍。德国工业联合会发出警告称，这项新法规将使欧洲企业同中美公司竞争时处于不利地位。 企业将面临何种处罚？ 违反人工智能法的行为将面临巨额罚款。对于使用非法软件的公司，欧盟可以对其处以多至3500万欧元的罚金，或要求其上缴全球年营业额的7%。 对于其他违法行为，相关企业也需缴纳多至1500万欧元，或全年营业额的3%。 新法何时生效？ 2026年初，欧盟人工智能法将正式生效。新法正式生效前，欧盟希望各企业能在自愿基础之上，执行相关的规定。批评者则担心，两年之后，欧盟现在制定的新法可能已经落后于技术的发展。 （德新社，法新社） © 2024年德國之聲版權聲明：本文所有內容受到著作權法保護，如無德國之聲特別授權，不得擅自使用。任何不當行為都將導致追償，並受到刑事追究。", "permaLink" : "https://p.dw.com/p/4dV8z", "displayDate" : "2024-03-14T10:37:42.126Z", "body" : [ { "content" : { "type" : "Paragraph", "text" : "（德国之声中文网）汽车导航、自动翻译以及智能手机的脸部解锁，我们日常生活中，人工智能已经无所不在。欧盟期望通过一部\"历史性\"的法律文件，让人工智能的使用变得更为安全。" } }, { "content" : { "type" : "Paragraph", "text" : "周三，欧盟议会多数通过了一项涉及人工智能的新法律。欧盟议会称，这是全球范围内，第一部对人工智能技术进行规范的法律文件。今后人工智能系统将被划分成不同的风险等级，风险系数越高，应用人工智能的门槛也就越高。" } }, { "content" : { "type" : "Paragraph", "text" : "一般来说，人工智能是指借助软件对大量数据过滤分析，并得出结论的机器学习过程。目前，人工智能已经得到广泛应用，比如，借助人工智能对CT图像进行评估，其准确度和速度都绝非人工可以比拟的。" } }, { "content" : { "id" : 68123548, "type" : "Image", "name" : "借助人工智能对CT图像进行评估，其准确度和速度都绝非人工可以比拟。", "description" : "借助人工智能对CT图像进行评估，其准确度和速度都绝非人工可以比拟。", "sizes" : [ { "width" : 220, "height" : 124, "url" : "https://static.dw.com/image/68123548_301.jpg" }, { "width" : 460, "height" : 259, "url" : "https://static.dw.com/image/68123548_302.jpg" }, { "width" : 700, "height" : 394, "url" : "https://static.dw.com/image/68123548_303.jpg" }, { "width" : 940, "height" : 529, "url" : "https://static.dw.com/image/68123548_304.jpg" } ] } }, { "content" : { "type" : "Paragraph", "text" : "布鲁塞尔认为，相关法律的出台具有\"历史意义\"，而经济界则担心，这一法规可能会对企业的创新精神构成障碍。那么这部法律具有都有哪些内容呢：" } }, { "content" : { "type" : "Paragraph", "text" : "哪些情况下，禁用人工智能？" } }, { "content" : { "type" : "Paragraph", "text" : "今后基于人的政治理念、宗教信仰、性取向以及肤色，而进行人群划分的人工智能系统将被禁止。在中国已经被广泛使用的、基于个人行为或个人特征的所谓社会信用系统，在欧盟则被禁止。" } }, { "content" : { "type" : "Paragraph", "text" : "企业不得使用人工智能技术观察员工的情绪变化。该技术也不得用于违背当事人意愿对其施加影响。此外，也不得因年龄、残疾或经济状况等原因，对当事人进行歧视性对待。" } }, { "content" : { "type" : "Paragraph", "text" : "使用人脸识别技术，都有哪些限制？" } }, { "content" : { "type" : "Paragraph", "text" : "只有法官发布相应指令的前提下，警方和安全机构才可以在公共场合使用以人工智能为基础的人脸识别技术。德国已经在柏林火车站等地开展相关的试验。" } }, { "content" : { "type" : "Paragraph", "text" : "警方在追捕重案嫌疑人或通缉已经判决的罪犯时，可以用人工智能技术对录制好的视频资料进行分析。而在搜寻贩卖犯罪或性暴力受害者时，警方也可以对实时监控视频使用人工智能。此外，在遇到\"具体及紧急的恐怖袭击危险\"时，警方也可使用人脸识别技术。" } }, { "content" : { "type" : "Paragraph", "text" : "哪些人工智能应用属于\"高风险\"？" } }, { "content" : { "type" : "Paragraph", "text" : "欧盟新法认定，安全机构在使用人工智能时，原则上存在侵犯人权的\"高风险\"。同样，在敏感基础设施和人事管理方面，应用人工智能也属于高风险。此外，有可能会对选举发生影响的人工智能应用，也被划归\"高风险\"类别。" } }, { "content" : { "type" : "Paragraph", "text" : "在上述领域，必须由一名专人对人工智能作出的决策进行最后把关。另外，这项法律还规定，相关机构必须设立技术文本档案以及风险管控机制。使用人工智能的部门还应开辟相应投诉渠道，保障当事人权益。" } }, { "content" : { "type" : "Paragraph", "text" : "如何确保人工智能系统的质量？" } }, { "content" : { "type" : "Paragraph", "text" : "今后，软件开发人员必须对基于人工智能的文字、图片和视频进行明确的标注。这条规定同样也适用于脸书、Instagram和X等平台上发表的贴文。不过，专家们认为，实际执行这一条款难度将会很大。" } }, { "content" : { "id" : 15369829, "type" : "Image", "name" : "在中国已经被广泛使用的、基于个人行为或个人特征的所谓社会信用系统，在欧盟则被禁止。", "description" : "在中国已经被广泛使用的、基于个人行为或个人特征的所谓社会信用系统，在欧盟则被禁止。", "sizes" : [ { "width" : 0, "height" : 0, "url" : "https://static.dw.com/image/15369829_7.jpg" } ] } }, { "content" : { "type" : "Paragraph", "text" : "新的人工智能系统需要用适当规模的数据库进行研发和训练。因此，相关的人工智能软件获准进入市场前，有关当局应为人工智能领域的初创公司提供方便，让他们拥有符合现实情况的试验环境。此外，人工智能法还将强化专利产权的保护。" } }, { "content" : { "type" : "Paragraph", "text" : "人工智能法对工业界将产生哪些影响？" } }, { "content" : { "type" : "Paragraph", "text" : "各工业协会担心，欧盟制定的新法为研发新型人工智能应用设置了难以逾越的障碍。德国工业联合会发出警告称，这项新法规将使欧洲企业同中美公司竞争时处于不利地位。" } }, { "content" : { "type" : "Paragraph", "text" : "企业将面临何种处罚？" } }, { "content" : { "type" : "Paragraph", "text" : "违反人工智能法的行为将面临巨额罚款。对于使用非法软件的公司，欧盟可以对其处以多至3500万欧元的罚金，或要求其上缴全球年营业额的7%。 对于其他违法行为，相关企业也需缴纳多至1500万欧元，或全年营业额的3%。" } }, { "content" : { "type" : "Paragraph", "text" : "新法何时生效？" } }, { "content" : { "type" : "Paragraph", "text" : "2026年初，欧盟人工智能法将正式生效。新法正式生效前，欧盟希望各企业能在自愿基础之上，执行相关的规定。批评者则担心，两年之后，欧盟现在制定的新法可能已经落后于技术的发展。" } }, { "content" : { "type" : "Paragraph", "text" : "（德新社，法新社）" } }, { "content" : { "type" : "Paragraph", "text" : "© 2024年德國之聲版權聲明：本文所有內容受到著作權法保護，如無德國之聲特別授權，不得擅自使用。任何不當行為都將導致追償，並受到刑事追究。" } } ], "referenceGroups" : [ { "name" : "DW.COM", "type" : "InternalContent", "items" : [ { "id" : 68256747, "type" : "ArticleRef", "name" : "微软:中俄等国利用AI完善黑客技术", "url" : "https://api.dw.com/api/detail/article/68256747" }, { "id" : 67889999, "type" : "ArticleRef", "name" : "报告：中欧人工智能科研合作超过中美", "url" : "https://api.dw.com/api/detail/article/67889999" } ] }, { "name" : "关键词", "type" : "Keywords", "items" : [ { "type" : "SearchRef", "name" : "人工智能", "url" : "https://api.dw.com/api/search/global?terms=%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD&languageId=4" }, { "type" : "SearchRef", "name" : "个人数据保护", "url" : "https://api.dw.com/api/search/global?terms=%E4%B8%AA%E4%BA%BA%E6%95%B0%E6%8D%AE%E4%BF%9D%E6%8A%A4&languageId=4" }, { "type" : "SearchRef", "name" : "人权", "url" : "https://api.dw.com/api/search/global?terms=%E4%BA%BA%E6%9D%83&languageId=4" }, { "type" : "SearchRef", "name" : "安全风险", "url" : "https://api.dw.com/api/search/global?terms=%E5%AE%89%E5%85%A8%E9%A3%8E%E9%99%A9&languageId=4" }, { "type" : "SearchRef", "name" : "欧盟", "url" : "https://api.dw.com/api/search/global?terms=%E6%AC%A7%E7%9B%9F&languageId=4" }, { "type" : "SearchRef", "name" : "中国社会信用体系", "url" : "https://api.dw.com/api/search/global?terms=%E4%B8%AD%E5%9B%BD%E7%A4%BE%E4%BC%9A%E4%BF%A1%E7%94%A8%E4%BD%93%E7%B3%BB&languageId=4" } ] } ] }