假如有一天,“住校的女儿”找你要生活费,“远房亲戚”有急用找你借钱,看到视频中熟悉的脸,听到语音中熟悉的声音,你会不会毫不怀疑地转账?
前不久,国家有关部门发布谨防“AI换脸”等新型诈骗手段的风险提示。在诈骗中,通过智能AI换脸,诈骗分子利用AI换脸技术伪造视频通话,冒充受害者认识的人,向受害者提出各种借口和理由,要求受害者转账或者提供信息。
AI换脸,是在AI人工智能技术和人脸图像识别技术的基础上,利用一些深度学习算法,将图片或视频中原来的人脸替换到目标人脸上的一种技术。随着科学技术和人工智能应用的发展,AI换脸正在变得越来越高效,越来越逼真。俗话说:耳听为虚,眼见为实。但是AI换脸颠覆了我们的这一常识:耳听为虚,眼见也未必为实。那么对于社会发展而言,AI换脸技术到底是福还是祸?
首先,我们不能否定其进步的一面——
在艺术创作和表达上,AI换脸技术为艺术家、设计师和创作者提供了更多的创作可能性。他们可以利用此技术来探索面部特征与艺术表达之间的关系,创造独特的艺术作品。
在科学研究和教育上,AI换脸技术可以用于人脸重建,帮助研究人员理解人脸的结构和形态变化,以及在人类认知和行为领域中进行实验和模拟。
其次,也要看到AI换脸技术带来的不良影响。
——欺诈和虚假信息。AI换脸技术有可能被用于制造虚假的视频或图片,用于欺诈、诈骗或恶意攻击。黑客或不良分子可以制作虚假的内容,导致社会信任危机和负面影响;利用“AI换脸”“AI换声”等虚假音视频,进行诈骗、诽谤的违法的行为已屡见不鲜。
——带来隐私风险。换脸技术可能侵犯个人肖像权、隐私权。未经允许使用他人的面部数据进行替换,可能引发隐私泄露和滥用问题。
综上所述,随着时代与科技的飞速发展,人工智能在社会各个领域中的应用已经越来越广泛。提供和使用AI换脸等生成式人工智能服务本身是中性的,但我们必须要想到,如果人工智能技术一旦失控,便容易引发不可估量的后果。
我们应以积极的态度看待人工智能,充分利用其优势,同时关注其可能带来的挑战。在发展和应用人工智能时,应当规范使用,关注伦理、安全和可持续性等问题,确保人工智能技术良性发展,为人类创造更大的价值。
(来源:"网信浙江”)
(链接:https://mp.weixin.qq.com/s/QIKWOR1Lxx6LEbTr0lZyrQ)