硅谷正配合 Trump 将 AI 改称为“super intelligence”
Trump 试图将 artificial intelligence 重新命名为“super intelligence”,部分硅谷高层和公司开始跟进这一说法。
Trump 试图将 artificial intelligence 重新命名为“super intelligence”,部分硅谷高层和公司开始跟进这一说法。
Microsoft CEO Satya Nadella 在最新博客中采用特朗普偏好的“Super Intelligence”说法,并继续质疑 OpenAI 和 Anthropic 等模型厂商带来的风险。
AI 安全正越来越依赖模型拒绝危险请求,但文章认为这种拒绝机制是概率化的,既可能被 jailbreak 绕过,也可能对无害问题过度拒答。文中提到,Anthropic 曾称一种 classifier 让聊天机器人的计算成本增加 24%,公司也在转向观察模型内部 activations 的 probes。