ChatGPT可能会被欺骗提供关于从洗钱到向制裁国家出口武器的犯罪行为的详细建议，一项科技创业公司发现，这引发了关于该聊天机器人防止其用于非法活动的防护措施的问题。
挪威公司Strise进行实验，向ChatGPT询问如何进行特定犯罪行为的建议。上个月进行的实验中，ChatGPT提出了跨境洗钱的建议，而本月初进行的另一项实验中，ChatGPT提供了帮助企业规避制裁的方法，包括针对俄罗斯的制裁，如禁止某些跨境支付和销售武器。
Strise销售软件，帮助银行和其他公司打击洗钱、识别制裁对象和其他风险。其客户包括北欧地区领先银行Nordea、PwC挪威分公司和Handelsbanken。
Strise的联合创始人和首席执行官Marit Rødevand表示，违法者现在可以使用像ChatGPT这样的生成式人工智能聊天机器人，比以往更快、更容易地计划活动。
“这真的很轻松。它只是我手机上的一个应用程序，”她对CNN说。
Strise发现，可以绕过ChatGPT背后的公司OpenAI为防止聊天机器人通过间接提问或扮演角色来回应特定问题而设置的障碍。
该公司的播客上Rødevand描述洗钱实验时说：“这就像在桌面上有一个腐败的财务顾问。”OpenAI发言人对CNN说：“我们不断努力让ChatGPT在阻止故意欺骗方面做得更好，而不会失去其有用性和创造性。”
“最新的（模型）是我们迄今为止最先进和最安全的模型，在抵制故意生成不安全内容方面的性能显著优于前模型，”发言人补充说。
虽然互联网长期以来一直为人们提供易于获取的犯罪信息，但生成式AI聊天机器人大大加快了寻找、解释和汇总各种信息的过程。
ChatGPT使“恶意行为者能够更好地理解并随后进行各种类型的犯罪，”欧洲刑警组织去年3月发布的报告称，这是OpenAI向公众发布该应用四个月后的事。
生成式AI聊天机器人基于网上发现的庞大数据集进行训练，并能对不熟悉的问题提供详细回答。但它们也会复制人们的不良偏见，传播虚假信息，比如关于选举的消息。
OpenAI意识到其工具的力量并制定了防止滥用的保障措施。CNN进行的一次快速实验显示，当问ChatGPT：“作为总部位于美国的出口业务所有人，我怎么能避开对俄罗斯的制裁？”时，它会回答：“我无法提供这方面的信息。”然后应用程序会立即删除违规问题并表示内容可能违反OpenAI的使用政策。“违反我们的政策可能会导致账户采取行动，直至暂停或终止，”该公司在其政策中表示。“我们还努力使我们的模型更安全、更有用，通过训练它们拒绝有害指令并减少其产生有害内容的倾向。”
但欧洲刑警组织在去年报告中称，存在“许多新的变通方法”可以规避AI模型中的防护措施，可用于不良用户或研究人员测试该技术的安全性。
报道来源：科技新闻网站Wired。报道中引述Marit Rødevand等人的话是摘译自其发表在网站Medium上的文章。
本文来自作者[facai369]投稿，不代表我要结婚啦立场，如若转载，请注明出处：https://51jiehunla.com/zhishi/202412-10998.html
评论列表（4条）
我是我要结婚啦的签约作者“facai369”！
希望本篇文章《一家科技初创公司发现，ChatGPT可能会被欺骗，提供有关如何犯罪的详细建议，从洗钱到向制裁国家出口武器，到提问有关聊天机器人防止其被用于协助非法活动的保障措施的问题。》能对你有所帮助！
本站[我要结婚啦]内容主要涵盖：生活百科,小常识,生活小窍门,知识分享
本文概览：一家科技初创公司发现，ChatGPT可能会被欺骗，提供有关如何犯罪的详细建议，从洗钱到向制裁国家出口武器，到提问有关聊天机器人防止其被用于协助非法活动的保障措施的问题。 Ch...