L1ght使用数据科学和AI拯救了孩子免受在线毒性

L1ght开发了一个利用深度学习来实时分析文本,图像,视频,语音和声音的平台,旨在定义“抗毒”类别。

随着连接性的提高,人们的担忧也日益增加-特别是对于有孩子的父母来说,他们在网上很活跃。

父母显然希望保护自己的孩子免受我们大家听到,看到和阅读的可怕经历的影响。但是,不仅要告诉孩子们不要共享个人信息,还可以保护他们免受有害的在线行为(例如欺凌,仇恨言论和性掠食者)的侵害。

这是一个令人恐惧的在线新世界,尤其是对于孩子们来说,统计数据令人大开眼界。

平均每个儿童骚扰者一生中最多可能有400名受害者。

在美国,有将近40%的12至17岁的儿童被网上欺负。

83%的年轻人希望看到社交网络打击在线欺凌行为。

不只是孩子-74%的成年游戏玩家受到了一定程度的骚扰。

大型游戏开发商育碧已经开始在其热门游戏《彩虹六号》中使用“毒性”调节功能,该用户因使用有害词而被自动禁止。

当您考虑到以下事实时,对更好的,全面的解决方案的需求就变得越来越大:事实上,往往是孩子们对技术非常了解,父母却不知道自己的行为,更不用说新的在线游戏或行为习惯了,更糟糕的是这些动作中有许多很难追踪。

Zohar Levkovitz是一名连续企业家,以超过3.5亿美元的价格出售了Amobee,后来成为以色列的“鲨鱼坦克”明星,与网络安全领导者Ron Porat联手使用数据科学挽救了孩子们的生命。

佐哈尔·列夫科维茨(ZOHAR LEVKOVITZ)

我之所以开始L1ght,是因为作为父亲,我突然意识到我的孩子们在网上面临的危险,以及这些邪恶的人物如何不断改变自己的战术以躲在雷达下。随着深度学习的到来-我们能够识别这些对话并预测将要发生的有毒物质,无论是通过文本,音频,视频还是图像。

使用AI保护孩子安全

迄今为止,解决方案主要集中在面向消费者的父母控制应用程序上。对于流行的应用程序和游戏,L1ght采用一种不同的方法作为端到端解决方案,该解决方案可直接与社交网络或主流游戏一起作为其基础结构的一部分。这样,如果Minecraft将L1ght插入他们的平台,他们将能够立即保护数百万名儿童。

经过与世界一流的博士,数据科学家和网络专家团队的2年研究,L1ght开发了一个利用深度学习实时分析文本,图像,视频,语音和声音的平台,旨在定义“抗毒性”类别。

当其他解决方案使用字典中的有害语言触发器来工作时,L1ght的技术会随着时间推移并在确切的上下文中评估有毒行为。

交付成果并抓住坏人

在发布的第一季度中,L1ght(以前称为AntiToxin Technologies)成为在WhatsApp上从公共团体中删除13万以上恋童癖者的头条新闻。在同一时期,该公司说服Google和Facebook清除了通过可疑的WhatsApp组的链接获利的应用程序,后来Bing也将其未成年人色情内容从其搜索结果中删除,作为L1ght建议的一部分。

L1ght的技术可以发现成年人在通讯应用程序上自愿交换亲密照片与成年人“修饰”未成年人之间的区别。

该技术还可以在文本交流中吸收不同的细微差别,例如,青少年在比赛中互相扔“打架”时,或者一个青少年以骚扰的方式反复伤害另一人时。

这种类型的技术发展比使用禁忌单词的词典黑名单的当今技术领先了光年。该技术是许多在线论坛仍在使用的一种低级方式,可以对在线讨论进行一定程度的控制,这是一种标准的跟踪方法。但是,用户集体找到解决它的方法并不需要很多。

例如,如果“紫色”一词由于某种原因而被列入黑名单,人们仍然会输入其他变体,例如“ prpl”,或者通过精心编写诸如“不得命名。”

考虑到所有这些,L1ght继续致力于充当在线监护人,并被视为在技术领域认可儿童安全的最终印记。

L1ght使用数据科学和AI拯救了孩子免受在线毒性

扫一扫手机访问