raye's thoughts
  • Home
  • About
Sign in Subscribe

LLM

A collection of 1 post
通过命令提示注入来攻击大语言模型
LLM

通过命令提示注入来攻击大语言模型

文章翻译自:https://link.medium.com/klyhSFNxoAb 我最近有幸运参加了Google IO开发者大会,大会发布了许多新产品。其中许多产品对人工智能的关注非常突出,尤其是生成人工智能。 生成式人工智能太令人着迷了,我很兴奋看到能通过将其功能与其他不同产品的功能进行集成,来颠覆一些过往的工作。我已经使用这些工具来编写脚本、撰写文案,生成博客的一些想法。虽然这些应用程序非常酷,但研究如何安全地使用这些技术也很重要。 大型语言模型((LLM)已经被应用到处理私人信息的产品中,不仅仅是总结新闻文章和编辑电子邮件。这就像一个全新的世界!我已经看到它们被计划用于客户服务聊天机器人、内容审核以及根据用户需求生成想法和建议。它们还用于代码生成、单元测试生成、安全工具的规则生成等等。 首先我要说的是,我在人工智能和机器学习领域完全是新手。就像其他人一样,我仍然试图围绕这些进步的能力。当涉及到大型语言模型时,我充其量只是一个初学者提示孩子。尽管如此,我还是很有兴趣了解更多。如果我提供的任何信息不准确,请随时打电话给我。 LLM 到底在做什么 给定一个文本块或“上下
Jun 14, 2023 11 min read
Page 1 of 1
raye's thoughts © 2025
  • Sign up
Powered by Ghost