近年来，不论各行各业最热点的非“智能化、智慧化、数字化、信息化”莫属，有了带头人，各行各业都“卷”起来了。农业不搞数字化，如何成为新时代新农人；企业不搞智能化，如何帮助企业优化资源提升管理；地方政府不搞智慧化、数字化、信息化，如何以建设数字经济新城市推动经济高质量发展。

因为数字化、信息化，行业中的整个业务过程被数据化地记录下来，并被机器系统反复学习数据和行为模式，最后因为比人更加专业而反过来指导人。

因为智能化、智慧化，数据信息越来越完备，机器系统越来越智能，二者逐渐变成你中有我我中有你的“人机一体”世界，最终终极模式的人工智能诞生了。

人工智能（AI）技术逐步出现在公众的视野里，大家被迫与之熟悉、融洽。虽然现阶段的AI技术只能算是智脑阶段，但随着受众体验用户的增多，大数据基础被逐步夯实，人和机器之间的语言裂隙逐步被填平，并逐步走向无差异或者无法判别差异。

新事物、新技术的产生和运用总是伴随着未知的风险与变革，大数据时代家庭成员的信息很容易通过外卖、快递、手机导航、人脸识别认证等途径泄漏。提到AI技术，大多数人对其概念还比较模糊，但使用者数量却并不少。随着AI技术演变，会给使用者的人身财产安全带来未知的风险，给不注意保护隐私的用户敲响“危机”的警钟。

例如，各软件中的直播带货被AI技术攻占，用户端的我们美美地欣赏漂亮博主辛苦地讲解带货，甚至被博主的经历等感动得一塌糊涂，却不知网络这边的直播间没有一个真人，全是AI生产的虚假博主，可见AI技术生产的视频多么的逼真和难以防范。

例如，抖音里经常会刷到的AI技术视频，有小伙子用AI技术把老丈人照片用在小孩身上，有身边朋友用AI技术把自己变成某影视经典片段里的主角，也有朋友用AI技术把自己变成歌手演唱片段中的歌星，更有使用者用AI技术把自己孩子的照片转换成艺术风格的绘画。经过AI换脸的“朋友”，容貌变得很像，声音变得很接近，不熟悉者很难辨别真假。

有人模拟过，假如这项技术被恶意者用在拐卖诈骗上，采用AI换脸技术变成孩子的家长，就连家里老人的方言也有AI技术赋能，从而模仿对话，最后冒充家长通过手机联系幼儿园老师将孩子拐跑，导致儿童被拐卖的概率将直线上升。虽然现在还未出现关于AI拐卖诈骗新闻报道，但其他AI“作恶”案件频发，仿如潘多拉魔盒被打开一般。如AI电信诈骗，受害者被换脸后用在系统软件人脸识别上，导致银行卡、微信钱包里的钱被诈骗。

正如百度创始人李彦宏所言：“人工智能技术飞速发展的过程当中，确实有可能出现对人类不利的发展方向，防止失控就需要拥有先进AI技术的国家通力合作，从人类命运共同体的高度来制定规则。”

为确保人工智能（AI）技术健康发展和规范应用，本月国家发布了《生成式人工智能服务管理办法（征求意见稿）》。但制度终归是制度，大多时候总是落后现实状况半拍，这就给了不法分子可乘之机，因而相关的防范技术措施就不得不思考和探讨了。