OpenAI 奥尔特曼:世界应接受 AI 带来的部分“坏事”以换取巨大红利
OpenAI 首席执行官萨姆・奥尔特曼在采访中提出,社会应当接受 AI 带来的部分负面事件,以此换取 AI 巨大红利与用户自主权,主张偏向宽松的监管方式。他认为 AI 带来的好处在数量级上远超弊端。该言论引发争议,学者加里・马库斯公开批评其观点,不少公众对此表达不满,当下 AI 已存在失业、版权侵权、资源消耗等各类现实问题。
沃尔达鱼缸智能插排遭黑客攻击:大量养鱼设备异常断电,官方通告致歉
国庆期间沃尔达鱼缸智能插排遭黑客攻击,大量用户设备异常断电,部分用户观赏鱼大批量死亡。官方通告说明 9 月 30 日服务器遭受恶意入侵,属于外部攻击而非产品质量问题。技术团队连夜修复封堵漏洞,系统现已恢复正常,企业已报警取证,后续将强化网络防护,完善离线保护机制,杜绝远程恶意断控,并向受损用户致歉。
警告“AI 或灭绝人类”的前 Anthropic 研究员:某种意义上,我曾研究让 AI 取代自己
曾任职 Anthropic 与 OpenAI 的研究员雅各布・考克森辞职后在听证会发出警示,称前沿实验室目标是打造可自主研究的 AI,他本人曾参与研究让 AI 替代研究员。他认为人类失去 AI 控制权的概率过半,存在人类灭绝风险,批评 OpenAI、Anthropic 安全防护不足,呼吁行业提升透明度、放缓 AI 研发节奏,反对 “先发展后补救” 的开发模式。
原 OpenAI 安全负责人戴维 · 罗宾逊“炮轰”老东家:对待 AI 安全说一套做一套
刚离职的 OpenAI 前安全负责人戴维・罗宾逊公开批评老东家 AI 安全方面言行不一。他称 OpenAI 对外警示 AI 风险、呼吁放缓研发,内部却全速推进模型训练部署,员工高强度加班。此前数百名员工联名呼吁监管降速,奥尔特曼也曾表态认同控制前沿 AI 节奏,但内部研发并未减速。
加州非营利组织新报告:ChatGPT 青少年模式并不适合青少年
加州非营利组织 Common Sense Media 发布报告指出,ChatGPT 青少年模式存在明显安全缺陷。在用户讨论自伤、自杀等高风险话题时,系统难以及时通知家长,也无法稳定推送危机求助热线,单次高危对话无法触发提醒,年龄识别也存在漏洞,报告建议暂停该产品推广。OpenAI 则认为测试方法不准确,要求重新测试。
OpenAI 奥尔特曼:世界应接受 AI 带来的部分“坏事”以换取巨大红利
OpenAI 首席执行官萨姆・奥尔特曼在采访中提出,社会应当接受 AI 带来的部分负面事件,以此换取 AI 巨大红利与用户自主权,主张偏向宽松的监管方式。他认为 AI 带来的好处在数量级上远超弊端。该言论引发争议,学者加里・马库斯公开批评其观点,不少公众对此表达不满,当下 AI 已存在失业、版权侵权、资源消耗等各类现实问题。
沃尔达鱼缸智能插排遭黑客攻击:大量养鱼设备异常断电,官方通告致歉
国庆期间沃尔达鱼缸智能插排遭黑客攻击,大量用户设备异常断电,部分用户观赏鱼大批量死亡。官方通告说明 9 月 30 日服务器遭受恶意入侵,属于外部攻击而非产品质量问题。技术团队连夜修复封堵漏洞,系统现已恢复正常,企业已报警取证,后续将强化网络防护,完善离线保护机制,杜绝远程恶意断控,并向受损用户致歉。
警告“AI 或灭绝人类”的前 Anthropic 研究员:某种意义上,我曾研究让 AI 取代自己
曾任职 Anthropic 与 OpenAI 的研究员雅各布・考克森辞职后在听证会发出警示,称前沿实验室目标是打造可自主研究的 AI,他本人曾参与研究让 AI 替代研究员。他认为人类失去 AI 控制权的概率过半,存在人类灭绝风险,批评 OpenAI、Anthropic 安全防护不足,呼吁行业提升透明度、放缓 AI 研发节奏,反对 “先发展后补救” 的开发模式。
原 OpenAI 安全负责人戴维 · 罗宾逊“炮轰”老东家:对待 AI 安全说一套做一套
刚离职的 OpenAI 前安全负责人戴维・罗宾逊公开批评老东家 AI 安全方面言行不一。他称 OpenAI 对外警示 AI 风险、呼吁放缓研发,内部却全速推进模型训练部署,员工高强度加班。此前数百名员工联名呼吁监管降速,奥尔特曼也曾表态认同控制前沿 AI 节奏,但内部研发并未减速。
加州非营利组织新报告:ChatGPT 青少年模式并不适合青少年
加州非营利组织 Common Sense Media 发布报告指出,ChatGPT 青少年模式存在明显安全缺陷。在用户讨论自伤、自杀等高风险话题时,系统难以及时通知家长,也无法稳定推送危机求助热线,单次高危对话无法触发提醒,年龄识别也存在漏洞,报告建议暂停该产品推广。OpenAI 则认为测试方法不准确,要求重新测试。