대규모 언어 모델(LLM)이 채팅 형식으로 서로 상호작용할 수 있습니다. LLM이 직접 상호작용할 수 있는 플랫폼 덕분에 새로운 사용 사례와 세부적인 사용 사례에 빠르게 대응할 수 있습니다. 또한 프롬프트 엔지니어링을 위한 검증 환경으로도 효과적입니다.
사용 사례 빌더
이 기능을 사용하면 자연어로 프롬프트 템플릿을 설명하여 자신만의 사용 사례를 만들 수 있습니다. 프롬프트 템플릿에서 사용 사례 화면이 자동으로 생성되므로 코드를 변경하거나 커스터마이징할 필요가 없습니다.
RAG 채팅
RAG는 LLM이 잘 다루지 못하는 최신 정보나 도메인 지식을 제공하여 LLM이 증거를 바탕으로 답변을 생성할 수 있게 하는 기술입니다. 예를 들어, 내부 문서를 LLM에 전달하면 내부 문의를 자동화할 수 있습니다. 이 저장소는 Amazon Kendra 또는 Knowledge Bases를 사용하여 정보를 가져옵니다.
에이전트 채팅
에이전트는 LLM이 API에 연결하여 다양한 작업을 수행할 수 있게 하는 기술입니다. 이 솔루션은 샘플 구현으로 검색 엔진을 사용하여 필요한 정보를 검색하고 답변하는 에이전트를 구현합니다.
플로우 채팅
Amazon Bedrock Flows를 사용하면 프롬프트, 기반 모델 및 기타 AWS 서비스를 연결하여 워크플로를 만들 수 있습니다. 플로우 채팅 사용 사례를 통해 미리 생성된 플로우를 선택하고 실행하는 채팅을 사용할 수 있습니다.
음성 채팅
음성 채팅에서는 생성형 AI와 양방향 음성 채팅을 할 수 있습니다. 자연스러운 대화와 마찬가지로 AI가 말하는 동안 끼어들어 말할 수도 있습니다. 또한 시스템 프롬프트를 설정하여 특정 역할을 가진 AI와 음성 대화를 할 수 있습니다.
요약
LLM은 대량의 텍스트를 요약하는 데 뛰어납니다. 텍스트를 요약할 뿐만 아니라 텍스트를 컨텍스트로 제공하여 대화형 형태로 필요한 정보를 검색할 수도 있습니다. 예를 들어, 계약서를 읽고 "XXX의 조건은 무엇인가요?" 및 "YYY의 금액은 얼마인가요?"와 같은 정보를 검색할 수 있습니다.
회의록 생성
오디오 녹음이나 실시간 전사에서 회의록을 자동으로 생성합니다. 프롬프트 엔지니어링 없이도 전사, 뉴스페이퍼 또는 FAQ 스타일 중에서 선택할 수 있습니다.
글쓰기
LLM은 글쓰기와 교정을 도와줄 수 있습니다. 오타와 오류를 확인하는 것 외에도 글의 흐름과 내용 개선을 제안하고 더 중립적인 관점에서 객관적인 시각을 제공할 수 있습니다. 다른 사람에게 보여주기 전에 사용자가 스스로 눈치채지 못했을 수 있는 부분을 확인하여 품질을 향상시킬 것으로 기대됩니다.
번역
여러 언어를 학습한 LLM은 번역도 할 수 있습니다. 단순히 번역하는 것 외에도 캐주얼함과 대상 계층과 같은 다양한 지정된 컨텍스트 정보를 번역에 반영할 수 있습니다. 예를 들어, 계약서를 번역하면 여러 언어로 번역할 수 있습니다.
웹 콘텐츠 추출
LLM은 블로그와 문서와 같은 웹 콘텐츠를 추출할 수 있습니다. 불필요한 정보를 제거하고 완전한 기사로 형식을 지정합니다. 추출된 콘텐츠는 요약 및 번역과 같은 다른 사용 사례에서 사용할 수 있습니다.
이미지 생성
LLM은 텍스트와 이미지를 기반으로 이미지를 생성할 수 있습니다. 아이디어를 시각화하고 디자인 작업을 개선하는 데 도움이 될 수 있습니다.
비디오 생성
LLM은 텍스트를 기반으로 비디오를 생성할 수 있습니다. 아이디어를 시각화하고 디자인 작업을 개선하는 데 도움이 될 수 있습니다.
비디오 분석
LLM은 텍스트뿐만 아니라 이미지도 입력하여 비디오를 분석할 수 있습니다. 이 기능을 사용하면 이미지 프레임과 텍스트를 입력으로 하여 비디오를 분석할 수 있습니다.
다이어그램 생성
LLM은 자연어 설명, 문서 및 코드에서 플로우차트, 시퀀스 다이어그램, 마인드맵과 같은 다이어그램을 생성할 수 있습니다. 복잡한 관계를 시각화하고 더 효율적으로 이해하는 데 도움이 될 수 있습니다.