早在2016年AlphaGo围棋战胜世界冠军的那一刻起，我就一直关注AI技术，期间加上一些科幻电影的剧情推演，由于是一直从事网络安全工作职业的关系，使得我常常浮想联翩。直到去年ChatGPT的横空出世不断的更新，还有陆奇的一次小范围演讲内容，使得我不得不去认真思考下AIGC可能会带来的安全隐患。这次收到组办方的邀约，刚好借此机会我又仔细的梳理了一下过去思考的内容。
有人把AIGC和瘟疫、核弹并列三大危险科技，也许并不是危言耸听，毕竟数位图灵奖获得者和一些社会知名人士曾签名柬言阻止AIGC的进一步发展。由于我个人一些固化安全习惯性的思维来考虑，就从传统意义安全的定义方法来谈谈一些个人的看法，安全包括，机密性，完整性，可用性，可追溯性，可控性，可对抗性，可审查性等几个角度来聊一下。
用户的所有输入信息是否得到保密性确认，用于训练模型的数据是否来源可靠合规，毕竟训练是需要大数据大模型，数据可靠性，来源，确权等是否存在违规行为，是否违反《数据安全法》，如果数据投毒怎么办，是不是可以构造些程序或自然语言对其进行训练或输入，是否对结果准确性带来些重大影响。事实上从我身边工作所看到的情况，就说明了可能存在大量合规隐患，这可能是未来监管的重点。
AIGC服务是否会遭受拒绝服务等传统攻击，输出的内容是否存在违规言论，甚至国外的一些价值观，伦理，道德，宗教，地域，性别等因素的歧视，偏见，或让人不适的内容是否存在。用AIGC生成些攻击工具，勒索病毒，钓鱼攻击，模拟编写欺骗性邮件社工攻击等自动化操作，大大降低了攻击者的攻击难度，缩短了攻击周期，如果批量性自动化的完成这些动作，是不是会让安全防护的工作压力大幅度增加。
通过AIGC生成的内容是否会需要打标签，是否存在侵权行为，还是会用于传播谣言，如果深度伪装做得比人工还要逼真，由于纯自动化的去生产传播这些谣言，会不会造成谣言满天飞，从而增加辟谣成本或言论失控，化身成无数水军使得假消息弄假成真。这些产生的数据是否会进一步用于大模型的训练。
AI的大模型构建越来越多，对自然语言的理解积累越来越多，算力进一步的提升，一旦超过人类大脑神经元数量的时候，是否会引发机器的产生意识，自我思考，自我觉醒，会不会自我复制，甚至可以有意识的去伪装欺骗人类从而绕过人类设置的控制程序，最终造成人机大战失控。我始终相信智慧的人类会最终取得胜利，但人性中固有的傲慢偏见可能会带来不小的灾难。
AIGC的大模型，算法以及算力，我们不得不承认主战场还是在欧美国家，毕竟高科技的主导以及高端领域的人才集中化，使得我们国内始终还处于追随者地位，尽管国内的所谓“百模大战”，如火如荼，确实也能看到国内有不少优秀的企业和人才在资本的推动下飞速发展起来。高端算力芯片的技术封锁使得我们还有很长的路要走，可替代的芯片算力够不够，如果算力够，会不会引起水资源用于降温的能源危机。特斯拉Dojo自动驾驶训练有一万个H100芯片，一年芯片降温所消耗的水资源据说有200个西湖，每一次的运算会喝掉很多的水，国内的“百模大战”会不会因缺水而终止，不得而知。
AIGC可以用于攻击代码的生产，同时也可以利用大模型构建攻击防御体系，比如威胁情报的分析，攻击日志分析报告的快速生成，自动运维使用AIGC做些风险预判等等，都是些比较好的思路，甚至海量信息输出后的自动审查，图片语音视频的自动化核查和自然语言的识别能力，自动化的阻止含有非法言论或用于诈骗信息的生成。用AI治理AI，到底谁能更胜一筹，目前还不得而知，只能依赖于模型算法，在可见的未来世界里只会是对抗越来越激烈，由于攻击防守双方都有了这个“葵花宝典”般的工具，攻击性破坏性太大，用于防守的成本也会愈发提高。
机器目前已经证明了在多个领域完胜人类，这已经是不争的事实，重复性的工作，甚至创造性的工作都能完成很出色，而且高出人类数十倍数千倍的效率。律师、教师、医生、金融、制造各个领域，甚至政务服务，制药等等各个领域用于赋能，降本增效，是否带来大量人员失业，从而引发的社会安全问题，当然也会有用于养老来解决当前老龄化等问题也有正向的影响。
AIGC发展的热烈程度是超乎我的想象的，几乎各个论坛都在广泛的宣传讨论，为防止出现安全的问题，主管部门也出台了政策监管的一些管理办法，但总的来说还是不全面，滞后或者是被动的局面，这使得会出现真空期的监管失效。各个国家出台的法律法规都有所不同，有的包容性多一些，有的甚至一刀切，带来的版权违规等法律问题目前看还未得到妥善的解决，这都会影响AIGC未来的发展。
无论是产业的上下游，还是输入，算法和输出，AIGC的各个环节的安全风险始终存在，而且不会凭空消失，程序是人编写的，就会存在程序漏洞或缺陷，在AIGC飞速狂飙的时候，也需要来一脚安全的刹车，也许这样才会行得更稳，走得更远一些。希望未来AIGC的发展始终秉承科技向善的理念，积极拥抱新科技，毕竟科技的发展洪流谁也无法阻挡。
