Amazon Bedrock
- 기초 모델로 인공지능을 쉽게 생성하고 관리하는 방법
- 기본적으로 LLM을 API로 호출하는 방식
- 알맞은 모델을 골라 프로젝트를 진행할 수 있음
- 외부와 공유되지않고, 개인정보 데이터를 따로 보관
- 지원되는 Region은 한정되어 있음
- 지역별로 사용할 수 있는 LLM 모델도 정해져있음
모델 선택
몇몇 모델은 생성하는데 일정 시간이 소요된다.
생성완료
PlayGround에서 Chat bot
모델명은 Anthropic
- Temperature
- 확률로 단어를 순서대로 읽는다. (빈도수)
- 0에 가깝게 설정하면 모델이 더 높은 확률의 단어를 선택 (결정론적)
- 1에 가까우면 더 낮은 확률로 단어를 선택
- 1일경우 : 세계 최고의 축구 선수는? 호날두 / 펠레 / 메시
- 0일경우 : 세계 최고의 축구 선수는? 호날두 / 호날두 / 호날두
- Top P
- 잠재적 선택지
- 1일경우 : 모델은 가능성이 가장 높은 선택지만 고려하고 가능성이 덜 높은건 무시
- 1일경우 : 말발굽 소리를 들려줄때 유니콘의 말발굽 소리 (거의 희박)
- 0일경우 : 말발굽 소리를 들려줄때 조랑말의 말발굽 소리
- TOP K
- 잠재적 단어의 확률분포
- 해당 숫자로 예상되는 답을 표출한다.
- 1일경우 : 사과의 색깔은 빨갛다.
- 60일경우 : 사과의 색깔은 갈색일수도 있다.
- Maximum length
- 가격 초점에서 고려해야할 부분이다.
- 답변의 최대 토큰 개수이다.