“行一录”46：AI最令我担心的是AI自己生成和测试AI！（1 / 1）

大模型等ai最让我担心的是它进化到ai生成和测试ai阶段时，人类没有做好安全预防工作。因为这个阶段的ai之间就构成了互动社会，人类不参与也能自我设计、维护、合作进化了。如果再让它们有了身体（物理控制权，那实际上已经是可以自我设计制造和升级的机器人社会了。而ai服务制造业是必然的，所以它们拥有身体也是必然的。

这个阶段，人类一是要提前做好底层安全预防，二是时刻监测全球各类型算力、能量、物理权限的异常，尤其是找不到其背后目的的算力、能量使用异常增加和物理权限异常增大！