“AI合成主播”也是在计算机技术基础之上的产物,自然会涉及网络信息安全(信息安全通常是指用户使用系统的时候,用户资料、计算机软硬件不会被破坏)等的问题。
首先,人工智能技术也是建立在信息技术基础之上,其离不开信息采集、存储以及分析,而采集的数据通常被开发者集中在一起进行开发、经营以及存储分析等,在这样的过程中,容易造成疏忽,往往会出现漏洞。在信息采集传输过程中,这种采集是否依据真实情况来采集,采集过程中的量化指标是否严谨,而采集的数据是否遵守规则,采集好的信息在传输过程中有没有得到较好的保护,以防止被其他程序串改等,而且采集来的信息在保密方面有没有保障,都需要有足够的抗干扰能力,采集到的信息如果和存储的信息发生来质的变换,则会严重造成对数据分析的不准确性。在信息存储过程中,是否能够保障采集过来的信息不会发生复制偷盗、串改甚至被滥用,换言之就是处于存储中的数据需要绝对的安全性。在数据分析过程中,由于人工智能具有自我迭代分析的能力,其依据是深度学习神经网络,源于对神经网络训练、这个过程通常分为卷积层、激活层以及池化层面和完全连阶层,对数据进行分析的次数,以及不同的训练模型得出的结果往往会出现差异,对于这种深度学习神经网络本身的构建,也属于一段程序,对于不同架构的程序分析出来的结果有没有衡量的标准,如果出现不当的结果,却将这种结果运用到实际中,会造成严重的后果。在对信息采集、传输以及存储分析过程中就已然存在一定的风险性。
其次,源于外部攻击,目前网络攻击是非常严峻的,黑客众多,一般情况之下主要是对信息系统的攻击,而对于大多数信息系统而言,其并不完善具有脆弱性。人工智能技术也属于一段程序,也是系统之中的一段代码而已,如果出现重大漏洞,容易被别人控制,进而对这段程序进行串改,带来的危险性是非常大的,加之量子技术也在不断的发展,传统的加密方式在量子计算机面前显得非常逊色,如果加密方式没有更新等,就系统方面而言,同样存在一定的风险性。
第三,在应用层面,也就是提供服务以及对终端的反控制问题,人工智能需要收集一定数据进行学习,从而反馈给用户,用户处理后又回又相对的信息反馈到系统之中,这是一个循环的过程,作为有机的循环体,存在被反控制的风险,从而带来一定的风险性。同时,人工智能算法具有自我迭代功能,而且是源于大数据分析,其决策性难以被急时被人类明晰,存在一定的决策透明度风险性问题。
第四,人工智能源于计算机技术基础,而在计算机安全过程中,还存在着硬件安全性问题,核心硬件在设计过程中,可能存在着漏洞或者留有后门,从而被不法分子提供了可能性的机会,存在一定的风险性问题,而且不同的硬件之间通讯加密以及访问控制,其涉及到方方面面,各个环节错中复杂,同样存在着一定的风险等问题。
第五,对于管理人员的问题,需要相应的授权,尤其需要识别管理人员身份问题,不同权限人员能够进入不同的后台管理系统,正如“AI合成主播”中,对于文字文本的输出时,如果出现输入错误,或者信息不当,同样存在这一定的风险问题。
当然,信息安全是一个国家以及各行各业都十分重视的问题,作为信息技术下的人工智能技术,同样存在着一定的风险性,而且在未来技术不断更新的发展过程中,还会出现在信息技术中新种类的风险,需要提高警惕性,正如07年美国策划的“棱镜技术”,大到国家小到个人,都会受到一定程度的影响,这种风险性问题是值得我们关注的,而且需要防止人工智能技术被用到制作计算机病毒,毕竟两者都属于一段程序。