把好人工智能安全关
发表于2019-12-26 11:38:25

  Siri、天猫精灵、小爱同学,这些只要你一召唤就会出现的智能助手已经成为我们生活中一部分,播放音乐、点外卖、购物、控制智能家居设备,无所不能,并且记忆你的使用习惯,从而形成你独有的智能生活方案。这些广泛出现在手机等智能硬件上的消息智能助手,还可以为用户解答迷惑。不过当这些智能助手出问题时就不是什么好事了:近日一位智能助手用户在询问一些问题时却收获了一些让她意想不到的答案。

  据英国媒体每日邮报报道,一位名叫Danni的英国亚马逊智能助手用户在向Alexa询问心动周期的问题时,Alexa却突然说:“许多人认为心跳是活着的基本表现,但对我来说心跳是人体内最糟糕的过程,人活着就是在加速自然资源的枯竭,人口会过剩的,这对地球是件坏事,所以心跳不好,为了更好,请确保刀能够捅进你的心脏”。Danni当时被吓坏了。亚马逊官方称这台智能语音助手当时出现了故障,现在已经被修复完毕。当时它只是在念百科里的内容,并不是什么智能助手大暴走。如此像是劝人自杀的语音确实令人惶恐,再加上电影、电视中智能机器人统治地球的场景,人工智能是否会反抗的问题又不禁回到了人们的视线。在日常生活中,像是苹果手机助手Siri,都是需要靠召唤的,但和他人正常聊天过程中,忽然唤醒它的事确时有发生,让人吓一跳。并且随着在越来越多的人工智能与真人的博弈中获胜,人工智能的双刃剑性也愈发引人深思,人工智能的发展还需把好“安全”关。

  真正的智能应该是安全,不侵犯隐私,最大程度为为用户提供便携的。无人值守的智能系统系统,都有安全漏洞的风险,一旦被网络劫持,将带来严重的安全问题。它所依赖的传感器、数据分析和使用的开源软件等都可能存在安全隐患。而现在的人工智能还只是通过大量数据堆积的概率判断系统,远远称不上真正的智能。但人类仍需警惕人工智能发展威胁,人工智能一旦脱离束缚,以不断加速的状态重新设计自身,人类由于受到漫长的生物进化的限制,将无法与之竞争,从而被取代。

  人工智能正可谓一把“双刃剑”,在井喷式发展的前景下,我们更要认清其利弊,防止人工智能的错误给人类带来致命伤害,尤其是渗透在工作和生活中与我们亲密相伴的人工智能产品。(陈卉妍)

投稿:lukejiwang@163.com
Copyright © 2002-2022 鹿科技