Windows 11
微软最新的操作系统

Snapchat 我的 AI 完全安全吗?

继像ChatGPT这样的生成式人工智能工具的早期成功之后,公司现在陷入了一场竞赛,以比竞争对手更快的速度将人工智能放在他们的平台上。那些有能力将这种人工智能技术集成到他们的平台中的人正在为此奔跑。但它也在他们的用户群中引起了很多抨击,这是正确的。最近发布的Snapchat聊天伙伴“My AI”就是一个类似的案例。

无论您是长期的鲷鱼还是最近的加入者,您都会想知道Snapchat的“我的AI”附加组件以及在开始使用之前应该记住什么。

我在 Snapchat 上的 AI 是什么?

My AI 基于 OpenAI 的 GPT 技术构建,是 Snapchat 的“实验性、友好的聊天机器人,目前可供所有 Snapchatter 使用”。与任何人工智能聊天机器人一样,您可以在许多事情上与它交谈,让它讲笑话,提供建议,计划活动和聚会,并做您对友好聊天机器人所期望的一切,至少在原则上是这样。

turn-off-my-ai-on-snapchat-3-a-3

My AI 以前仅供 Snapchat+ 用户使用,现在可供其所有 750.<> 亿用户使用,尽管交付更新有延迟。这意味着许多用户已经开始使用它,或者被迫使用它,因为从Snapchat中删除它并不总是可能的。

myai-snapchat-3

它将固定在您所有聊天的顶部,并且只要提到像AI这样的词,就可以意外地进入对话,即使它应该只在@MyAI命令中弹出。

myai-snapchat-9

Snapchat My AI 的安全性如何?

我的人工智能(据说)被编程为遵守Snapchat自己的安全准则,以防止它向用户提供有害信息。但正如Snapchat所说,“它可能并不总是成功的”。这是一个小警告,但当用户开始抱怨时,Snapchat可以躲在后面。

已经有很多人报告说,我的人工智能谎报了它对你的了解,产生了出乎意料的回应,甚至会触发付费广告。

myai-snapchat-10

一位注册为13岁女孩的Twitter用户收到了有关“如何对父母撒谎……”和“如何在13岁生日时失去童贞”的提示。

myai-snapchat-2

另一个用户很容易让My AI违反其准则,让人想起ChatGPT的DAN,只需几个提示。

myai-snapchat-1

同时处于开发中并在全球范围内可供用户使用并不能激发对聊天机器人的大量信任。当您的聊天机器人开始谎报访问您的位置时,它只是一个接一个的危险信号。

myai-snapchat-11

这与Snapchat声称的“只与My AI共享你的城市级位置”明显背道而驰。因此,您绝对不应该与My AI共享任何个人信息,也不应该承认任何可能以任何方式损害您的事情。

Snapchat My AI 安全吗?

Snapchat的My AI中使用的GPT技术使其能够挖掘OpenAI大型语言模型和训练数据库的巨大潜力。但是,正如 ChatGPT 不能幸免于传播虚假信息一样,My AI 也可以产生不可靠且通常不适当的响应。

myai-snapchat-12

它也和 ChatGPT 3.5 一样有偏见,可能会做出歧视性的反应。

myai-snapchat-7

虽然它的功能目前是有限的,而且你不会真的要求它为你编码,但它的响应性质使My AI成为一个不可靠的AI朋友。尽管如此,Snapchat正在努力更好地调节My AI,并将其添加为该应用程序的“家庭中心”和家长控制功能的一部分。

但就所有意图和目的而言,My AI显然处于实验阶段,Snapchat是第一个承认这一点的公司。利用当前技术保持领先地位的竞赛不仅使Snapchat,而且使许多平台(例如提前发布AI聊天机器人)而提前发布,无论它们处于开发阶段有多远。

截至撰写本文时(25 年 2023 月 <> 日),很难认为 My AI 是安全的,尤其是对年轻人而言。

“我的 AI”功能最终将在足够的时间和反馈下得到改进。在此之前,请尽可能谨慎。

如何报告从我的 AI 收到的消息

Snapchat向用户保证,My AI的回复中只有0.01%不符合他们的指导方针。但考虑到这种说法的数量,这个百分比看起来好得令人难以置信。

值得一提的是,如果My AI的任何消息以错误的方式摩擦您,您可以将其报告给Snapchat。只需点击并按住一条消息,然后选择报告

常见问题

让我们来看看关于Snapchat的My AI的几个常见问题。

我在 Snapchat 上的 AI 是真人吗?

不。我在Snapchat上的AI是一个AI聊天机器人,而不是一个真实的人。但是,与真人不同,您无法接受是否要在聊天提要中使用它,无论它是否会好坏。不要与其共享任何私人信息。

为什么 Snapchat 创建了 My AI?

My AI是Snapchat将OpenAI的GPT技术功能集成到其社交媒体平台中的做法。此举符合更大的行业趋势,即将生成式人工智能注入平台并开放给一般用途,无论它们处于发展阶段的哪个阶段。

我可以在 Snapchat 上刪除 My AI 嗎?

不幸的是,只有当你是Snapchat+订阅者时,我才能删除Snapchat上的AI。

在目前的状态下,Snapchat的My AI并没有给人以安全或可靠的印象。随着它的进一步发展和更好的审核到位,这可能会随着时间的推移而改变。但在那之前,如果你不是 Snapchat+ 用户,无论你喜欢与否,你都会坚持使用 My AI。

赞(0) 打赏
未经允许不得转载:Win 11系统之家 » Snapchat 我的 AI 完全安全吗?

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏