llm2 Bad Likert Judge: Multi-Turn Technique to Jailbreak LLM 네트워크 보안 전문 기업인 팔로 알토 네트웍스(Palo Alto Networks)에서는 거대 언어 모델(LLM)의 안전 장치를 우회하여 유해한 답변을 유도하는 Bad Likert Judge 방법에 대한 "Bad Likert Judge: A Novel Multi-Turn Technique to Jailbreak LLMs by Misusing Their Evaluation Capability" 제목의 연구를 자사 홈페이지를 통해 공개 했어요 (2024년 12월 31일). 😊 팔로 알토 네트웍스 연구팀은 잘 알려져있는 성능이 우수한 6개 LLM을 대상으로 Bad Likert Judge 기술을 테스트 했으며, 기존의 Jailbreking 공격에 대비해서 공격 성공률이 평균 60% 이상 높았어요. 🚀 모든 연.. 2025. 1. 5. Auto-GPT가 적용될 수 있는 분야들... Auto-GPT 는 인간과 같은 고품질의 텍스트를 생성하고, 대량의 텍스트를 요약하며, 질문에 답하고, 언어 간 번역도 할 수 있습니다. A텍스트 분류, 감성 분석 및 개체명 인식도 할 수 있습니다. 또한, Auto-GPT는 마케팅 조사, 콘텐츠 작성 및 소프트웨어 개발 산업에서도 사용될 수 있습니다. Auto-GPT는 아직 초기 단계이지만, 이미 여러 응용 분야에서 가능성이 검증되고 있습니다. 1. Auto-GPT는 프로그램을 수정하고 성능을 향상시킬 수 있음 Auto-GPT는 코드를 읽고 쓰며 실행할 수 있으므로 프로그래밍 코드를 개선하는 업무를 할 수 있습니다. 코드의 평가, 테스트 및 업데이트를 진행하며 더 빠르고 더 신뢰성이 있으며 더 효율적인 프로그램을 만들 수 있습니다. Auto-GPT의 개.. 2023. 4. 24. 이전 1 다음
