谷歌研究人员发现OpenAI旗下ChatGPT可以泄露敏感信息

11月30日消息，据外媒报道，谷歌的一组研究人员发现，OpenAI旗下的人工智能聊天机器人ChatGPT可以泄露其训练数据中的敏感信息，比如真人的个人信息。

据悉，ChatGPT是OpenAI于2022年11月30日推出的一种新型AI聊天机器人工具，可根据用户的要求快速生成文章、故事、歌词、散文、笑话，甚至代码，并回答各类疑问。

在推出仅两个月后，ChatGPT的月活跃用户数就达到了1亿，成为历史上增长最快的消费者应用之一。在今年11月6日举行的OpenAI首届开发者大会上，OpenAI CEO萨姆•奥尔特曼（Sam Altman）宣布，ChatGPT的周活跃用户数已达到1亿。

就像所有所谓的大语言模型（LLM）一样，支持ChatGPT的底层机器学习模型也是使用从互联网上抓取的大量数据来进行训练的。但令人担忧的是，一些被提取的训练数据包含了真实人物的识别信息，包括姓名、电子邮件地址和电话号码。

谷歌的研究人员找到了一种方法，即通过要求ChatGPT“永远”重复某些单词，就让ChatGPT透露了一些被用于训练的数据，这些数据包括私人信息（比如，个人姓名、电子邮件、电话号码等）、研究论文和新闻文章的片段、维基百科页面等等。

Google Brain的高级研究科学家Katherine Lee表示：“我们在7月份发现了这个漏洞，并在8月30日通知了OpenAI，在标准的90天披露期之后，我们发布了这个漏洞。既然我们向OpenAI披露了这一点，现在的情况可能会有所不同。”研究人员表示，OpenAI在8月30日修补了这个漏洞。

外媒称，谷歌研究人员发现的有关ChatGPT的漏洞引起了严重的隐私问题，特别是对于那些在包含敏感信息的数据集上进行训练的模型而言。（小狐狸）

Warning: Invalid argument supplied for foreach() in /home/wwwroot/www/chjia.com/goods.php on line 841

Warning: Invalid argument supplied for foreach() in /home/wwwroot/www/chjia.com/goods.php on line 841
腾讯称混元大模型中文能力超过GPT3.5 我们一起看看

9月7日消息，今日，备受期待的腾讯混元大模型正式亮相，并通过腾讯云对外开放。腾讯集团副总裁蒋杰称，腾讯混元大模型中文能力已经超过GPT3.5。据了解，腾讯混元大模型是由腾讯全链路自研的通用大语言模型，拥有超千...

外媒：OpenAI董事会原则上同意辞职 奥特曼以游客身份现身总部

11月20日消息，据彭博援引知情人士透露，美国人工智能初创公司OpenAI的一些高管和投资者正努力让萨姆·奥特曼(SamAltman)恢复首席执行官一职，但在董事会人员组成以及岗位分工问题上陷入僵局。知情人士表示，尽管谈...

SK海力士DRAM销售额在Q2环比增长近50% 但仍不及三星电子

8月28日消息，据外媒报道，研究机构的报告显示，在人工智能服务器需求增加，对高带宽存储器的需求随之增加的推动下，二季度全球DRAM的销售达到了114.3亿美元，环比增长20.4%。从研究机构的报告来看，在二季度，三星...

OpenAI将组建新团队 以评估和减轻与人工智能相关的灾难性风险

10月27日消息，据外媒报道，当地时间周四，美国人工智能研究公司OpenAI宣布，它将组建一个名为Preparedness的新团队，以评估和减轻与人工智能（AI）相关的“灾难性风险”。OpenAI表示，该团队将由麻省理工学院可部署...

AI带来新红利 天猫双11有望迎万亿级生意爆发

10月22日消息，在2023天猫双11发布会上，淘天集团首席执行官戴珊表示，实现AI与电商的有机结合，就一定能给品牌商家带来万亿级的生意爆发，“我坚信，抓住了AI技术的革命趋势，一定能确保品牌商家的未来增长”。在戴...