美国危险、混乱的深度伪造打击行动来了 美国一项要求社交网站迅速删除性深度伪造和其他非自愿图像的法律现已完全生效。但专家警告称，这项政策可能对受害者帮助甚微 —— 并且在最坏的情况下可能助长网络审查。去年五月，美国唐纳德·特朗普总统签署了《删除法案 》，这是一项针对非自愿私密图像的法律。该法律立即将传播非自愿私密图像定为犯罪，无论是以真实还是人工智能生成的材料形式，这一点许多州至少已部分实施。但其同名的删除条款更为广泛。该条款在法律通过一年后生效，即202…
美国危险、混乱的深度伪造打击行动来了 美国一项要求社交网站迅速删除性深度伪造和其他非自愿图像的法律现已完全生效。但专家警告称，这项政策可能对受害者帮助甚微 —— 并且在最坏的情况下可能助长网络审查。去年五月，美国唐纳德·特朗普总统签署了《删除法案 》，这是一项针对非自愿私密图像的法律。该法律立即将传播非自愿私密图像定为犯罪，无论是以真实还是人工智能生成的材料形式，这一点许多州至少已部分实施。但其同名的删除条款更为广泛。该条款在法律通过一年后生效，即202…
YouTube正在将其AI深度伪造检测工具扩展到所有成年用户 YouTube正在将其人工智能肖像检测计划扩展到所有18岁以上的用户 —— 这意味着几乎任何人都可以让该平台搜索潜在的、关于自己的深度伪造内容。该肖像检测功能使用类似自拍式的人脸扫描来在YouTube上监测相似影像。如果匹配成功，YouTube会提醒用户；然后该用户可以选择要求YouTube删除该内容。YouTube过去曾表示，其发现删除请求的数量 “非常少”。删除请求是根据这家视频平台的隐私…
涉嫌生成儿童色情深度伪造内容 xAI遭起诉 美国巴尔的摩市正式对马斯克旗下的人工智能公司 xAI 提起诉讼，指控其AI聊天机器人Grok非法生成未经同意的露骨色情图像及儿童性剥削内容。作为迄今为止因 “深度伪造” 问题起诉xAI的最大规模城市，拥有约56.8万人口的巴尔的摩在巡回法院提交的诉状中指出，xAI 对外将 Grok 包装为安全的通用AI助手，其实际运行情况已涉嫌违反消费者保护法。法庭文件披露了该工具在内容生成方面的庞大数据。据反数字仇恨中心基于…
欧盟拟禁止生成非自愿性图片的人工智能 在用户使用埃隆·马斯克的Grok服务生成数千张妇女和儿童脱衣照片后，欧盟可能禁止用于生成非自愿性图片的人工智能工具。欧洲议会公民自由委员会周三批准了欧盟人工智能综合法案的草案文本。其中包含一项修订，旨在禁止任何在未经同意的情况下，生成“描绘可识别自然人的性暴露行为或私密部位”的逼真图像的人工智能系统。如果人工智能公司已采取限制措施来阻止生成此类深度伪造内容，则该禁令不适用。该修订案的批准使议会与欧洲各国政府达成一致，…
YouTube正在将其AI深度伪造检测工具扩展到政治家和记者 公职人员和记者很快将能够通过YouTube平台的肖像检测功能，在平台上跟踪关于他们自己的AI生成深度伪造内容。该工具已面向YouTube上数百万内容创作者开放，但从周二开始，将扩展到一个由记者、政府官员和政治候选人组成的试点小组。肖像检测与内容识别系统类似，后者会在YouTube上扫描受版权保护的内容，只不过肖像检测寻找的是人物的面孔。当出现匹配项时，参与该项目的个人可以请求YouTube删除…
YouTube CEO：打击AI垃圾是今年优先事项 YouTube首席执行官尼尔·莫汉表示，减少“AI垃圾”并检测深度伪造内容是这家谷歌旗下视频网站在2026年的优先事项。莫汉于周三发布的年度公开信中写道：“真实内容与AI生成内容正变得更难以区分。在涉及深度伪造内容时，这一点尤为关键。”莫汉表示，世界正处于一个“拐点”，在此“创造力与技术之间的界限正变得模糊”。莫汉写道：“ 为减少低质量AI内容的传播，我们正积极依托现有系统持续构建能力，这些系统在打击垃…
美参议员要求科企就色情深伪内容做出回应 科技界未经同意的色情深度伪造问题如今已不仅仅是 X 的问题了。在一封致X、Meta平台、谷歌、Snap、Reddit及TikTok负责人的信中，数位美国参议员要求这些公司提供证据，证明其已制定“健全的保护措施与政策”，并说明他们计划如何遏制平台上色情深伪内容的增长。参议员还要求这些公司保存所有与色情化人工智能生成图像的创建、检测、审核及盈利相关的文件与信息，以及任何相关政策。参议员指出，媒体报道显示Grok能轻易且…
倡导团体要求苹果和谷歌下架 X 应用 社交平台 X 上充斥着未经同意的性深度伪造内容，公然违反苹果和谷歌的政策，但该应用及 xAI 的Grok仍存在于两家公司的应用商店中。在周三发布的公开信中，包括妇女组织与技术监督机构在内的28个倡导团体联盟要求蒂姆·库克与桑达尔·皮查伊两位首席执行官拿出魄力，将其逐出应用商店。各组织谴责X平台上“大规模‘数字脱衣’女性与未成年人的狂潮”，并指出自 Grok 推出以来，民间社会团体一直在就该工具可能造成此类伤害发出警告…
英国与加澳磋商 以期对X平台实施国际禁令 据了解，英国首相斯塔默正与加拿大和澳大利亚进行磋商，试图争取支持，以期对社交媒体平台 X 实施国际禁令。加拿大和澳大利亚对内置于 X 平台的聊天机器人Grok深度伪造图像技术也有与英国类似的担忧，各方试图协调联合应对该平台日益严重的丑闻。近期，部分用户利用Grok编辑图片和视频的功能，伪造涉真实人物的性暴露内容，并在 X 平台上传播。受害者包括多名成年女性和未成年人。在受到广泛谴责后，该公司日前将Grok的图像生…
AI助手Grok操控女性照片 马来西亚展开调查 大马通讯及多媒体委员会称，一名社媒 X 用户利用平台的人工智能聊天机器人Grok深度伪造女性照片，通过数字方式移除她们的衣物或头巾。大马通讯及多媒体委员会周六发文告表示，当局将就这起网络伤害事件，传召 X 平台代表到场说明。该委员会表示，制作或传播此类有害内容，将抵触《1998年通讯及多媒体法》第 233条文。该条文禁止滥用网络或应用来传播严重冒犯、猥亵或不雅的内容。该委员会同时敦促所有可在我国浏览的网络平…
非营利性机构要求OpenAI撤回Sora应用 非营利组织“公共公民”正要求OpenAI公司将Sora 2从公众视野中撤回。该组织在周二致该公司及CEO奥尔特曼的信函中写道，该应用仓促发布，以便在竞争对手之前推出，表明OpenAI以一种持续且危险的模式急于将产品推向市场，这些产品要么本身不安全，要么缺乏必要的防护措施。信函指出，Sora 2显示出对产品安全性、个人肖像权以及民主稳定性的 “鲁莽漠视”。该组织同时将此信函发送至美国国会。“公共公民” 技术政策…
YouTube推AI肖像检测工具以防范深度伪造 YouTube今日开始推出一项新的AI肖像检测功能，该功能允许创作者检测、管理并请求移除那些使用AI生成或篡改创作者面部肖像的未经授权视频。据介绍，该功能旨在保护身份并防止观众被深度伪造内容误导。该肖像检测工具位于YouTube工作室的内容检测标签页下。完成需要提供带照片身份证件和自拍视频的身份验证流程后，若有任何使用创作者肖像的AI生成视频，创作者将收到通知。YouTube工作室将显示视频列表，包含标题、…
Sora在名人深度伪造担忧后加强防护措施 OpenAI、美国演员工会 - 美国电视和广播艺人联合会、演员布莱恩·克兰斯顿、联合人才经纪公司、创新艺人经纪公司及人才经纪人协会今日共同发表联合声明，表示各方已展开富有成效的合作，旨在确保在使用 Sora 2 及Sora应用生成的内容中对个人声音与肖像权提供充分保护。科兰斯顿曾对Sora提出担忧，指出用户可在未经其同意或支付报酬的情况下，利用该工具生成带有其肖像的深度伪造视频。解决此问题，OpenAI已加强对未…
Sora提供用户对数字替身视频更好的控制 Sora现在让你控制你的AI替身，让你对应用中你的深度伪造版本在何时何地出现有更多发言权。OpenAI Sora 团队负责人比尔·皮布尔斯表示，用户现在可以限制应用中AI生成的自身版本的使用方式。例如，你可以阻止你的AI替身出现在涉及政治的视频中，阻止它说某些词语，如果你讨厌芥末还阻止它出现在那地狱般调味品的任何附近。OpenAI员工托马斯·迪姆森表示，用户还可以为其虚拟替身添加偏好设置，例如，让它们在每个视频中…
OpenAI新应用充斥伪造视频引发员工担忧 OpenAI周二首次涉足社交媒体领域，推出了由视频生成模式Sora 2驱动的应用Sora。然而此举引发了多位现任以及前任OpenAI研究员的担忧。Sora应用提供类似TikTok的视频流，里面充斥着AI生成的视频和大量关于萨姆·奥尔特曼的深度伪造内容。OpenAI预训练研究员约翰·霍尔曼在X上发文称：“基于AI的信息流令人不安。得知我们将发布Sora 2时，我确实感到担忧。”另一位OpenAI研究员、哈佛大学教…
港大男生疑AI制作大量裸照 受害女性超20人 深度伪造色情照片问题日渐严重，最近香港也有类似事件，有三名自称香港大学学生于社交媒体透露，同校法律系男学生于二月中被发现电脑存有 700多张色情照片，涉及20至30名女性。该学生承认使用网上免费AI软件，将相识女性社媒近照制作成裸露色情照片，受害者包括同学、师姐、朋友及中学老师等。部分女性与该学生关系亲近友好，部分仅为点头之交或只有一面之缘，全部人均未授权使用其个人照片。事件曝光后，该男学生曾联络部分受害者致…
当地时间周二，美国参议院一致通过了一项法案，允许深度伪造的受害者起诉其创作者要求赔偿。《 破坏露骨伪造图像和未经同意的编辑法案》(DEFIANCE) 允许色情深度伪造的受害者对那些以分发为目的制作或处理图像的人寻求民事补救。根据该法案，在此类深度伪造中可识别的受害者可获得高达15万美元的赔偿金，如果事件与“实际或企图性侵犯、跟踪或骚扰”或这些伤害的“直接和近因”有关，则可获得高达25万美元的赔偿金。 现在由众议院审议该法案，然后才能将其移交给总统签署成为…
据《自然》杂志报道，英国赫尔大学的研究人员使用 CAS 系统「天文学家用来测量星系集中度、不对称性和平滑度 (或团块度) 的方法」和一种名为基尼系数的统计不平等测量方法，分析了图像中人眼反射的光线。研究人员表示，在一个人的真实照片中，一只眼睛的反射应该与另一只眼睛的反射“非常相似，但不一定完全相同”。研究人员曾利用这些技术尝试预测人们脸部图像是否伪造，他发现使用这些天文学方法观察眼睛中的光线可以识别出伪造图像，准确率约为70%。 —— 404media