AWS Bedrock은 아마존이 2023년 정식 출시한 완전관리형 생성형 AI 서비스다. Anthropic Claude, Meta Llama, Amazon Titan 같은 여러 파운데이션 모델을 API 하나로 불러 쓸 수 있게 묶어놨다. 2026년 8월 기준으로 이 서비스의 구조와 장단점을 정리했다.
AWS Bedrock, 정확히 뭘 하는 서비스인가
파운데이션 모델(foundation model)은 방대한 텍스트, 이미지 데이터를 미리 학습해 다양한 작업에 범용으로 쓸 수 있는 대형 AI 모델을 말한다. 질문 답변, 문서 요약, 이미지 생성까지 모델 하나로 여러 작업을 처리하는 게 특징이다.
AWS는 공식 발표에서 Bedrock을 “개인정보 보호와 보안을 유지하면서 파운데이션 모델 기반 생성형 AI 애플리케이션 구축을 간소화하는 완전관리형 서비스”라고 소개했다. 완전관리형이라는 말은 서버 설치나 GPU 인프라 구성을 AWS가 대신 처리해준다는 뜻이다.
Anthropic, Meta, AI21 Labs, Cohere, Stability AI 같은 외부 AI 기업의 모델과 아마존 자체 모델(Titan, Nova)이 한 콘솔 안에 모여 있다. 모델마다 따로 계약을 맺고 API를 붙이는 대신, Bedrock 하나의 창구로 처리하는 구조다.
Bedrock은 어떤 구조로 작동하나
Bedrock은 서버리스(serverless) 방식이다. 서버리스란 사용자가 직접 서버를 켜고 끄지 않아도 요청이 들어올 때만 연산 자원이 자동으로 붙었다 빠지는 구조를 말한다. 트래픽이 없으면 대기 비용도 거의 들지 않는다.
콘솔 안에서 할 수 있는 일은 크게 다섯 갈래로 나뉜다.
- 플레이그라운드에서 코드 없이 모델 실험
- InvokeModel API로 애플리케이션에 모델 연결
- 보유 데이터로 파인튜닝(모델을 특정 업무에 맞게 추가 학습시키는 작업)
- RAG(Retrieval-Augmented Generation, 답변을 만들기 전에 사내 문서를 먼저 검색해 근거로 붙이는 방식)로 지식베이스 연결
- 에이전트를 구성해 여러 단계 작업을 자동 실행
같은 API 형식으로 모델만 바꿔 부를 수 있어서, 서비스 코드를 다시 짜지 않고도 Claude에서 Llama로 옮겨갈 수 있다는 게 AWS가 내세우는 핵심 강점이다.
모델을 마음대로 골라 쓸 수 있다는 장점
가장 먼저 체감하는 장점은 모델 선택 폭이다. Bedrock 안에 올라와 있는 대표적인 모델 제공사와 특징을 정리하면 다음과 같다.
| 제공사 | 대표 모델 | 특징 |
|---|---|---|
| Anthropic | Claude | 대화, 코딩, 문서 처리에 두루 강한 범용 모델 |
| Meta | Llama | 가중치가 공개돼 있어 세밀한 파인튜닝이 자유로움 |
| Amazon | Titan, Nova | AWS 인프라와 통합이 가장 매끄럽고 상대적으로 저렴 |
| Mistral, Cohere | Mistral Large, Command | 가볍고 저렴한 편이라 대량 처리용으로 쓰임 |
업무 성격에 따라 모델을 바꿔가며 테스트할 수 있고, 특정 모델 제공사 하나에 발이 묶이지 않는다. 그동안 생성형 AI 모델 성능 비교를 해보면 분야마다 강점이 갈리는데, Bedrock에서는 그 비교를 코드 재작성 없이 실제 서비스에서 바로 해볼 수 있다.
서버리스 구조 덕에 트래픽이 몰릴 때만 자원을 쓰고, 평소엔 유휴 비용이 거의 들지 않는다는 것도 실무에서 크게 체감되는 부분이다.
보안과 자동화 쪽에서 얻는 것들
기업이 Bedrock을 고르는 진짜 이유는 보안에 가깝다. 입력한 데이터와 파인튜닝 결과물은 AWS 계정 밖으로 나가지 않고, 모델 학습에도 재사용되지 않는다. 전송 구간은 TLS(데이터를 암호화해서 주고받는 통신 규격) 1.2 이상, 저장 데이터는 AES-256 암호화가 기본 적용된다.
권한 관리는 IAM(Identity and Access Management, AWS 계정 안에서 누가 어떤 자원에 접근할 수 있는지 정하는 시스템)으로 통합된다. 사람이든 애플리케이션이든 특정 모델만 호출하도록, 혹은 특정 리소스에만 접근하도록 세밀하게 권한을 나눌 수 있다.
RAG로 사내 문서를 검색 근거로 붙이거나, AI 에이전트 형태로 여러 단계 작업을 자동 처리하는 기능도 관리형으로 제공된다. 직접 벡터 데이터베이스를 구축하고 오케스트레이션 코드를 짜는 수고를 상당 부분 던다.
실제로 써보면 걸리는 단점들
비용 구조가 첫 걸림돌이다. 토큰(모델이 텍스트를 처리하는 최소 단위)당 과금이 기본이라 단순해 보이지만, 실제 지출은 다르게 붙는 경우가 많다. RAG 지식베이스를 만들 때 쓰는 벡터 저장소는 트래픽이 없어도 매달 일정 금액이 고정 청구되고, 에이전트가 질문 하나를 처리하려고 모델을 여러 번 연쇄 호출하면 예상보다 비용이 크게 불어나기도 한다.
리전(region, AWS 데이터센터가 위치한 지역 단위)과 쿼터(quota, 계정별로 정해진 사용 한도) 제한도 걸린다. 모델마다 사용 가능한 리전이 다르고, 분당 요청 수와 토큰 처리량에 상한이 걸려 있어서 트래픽이 몰리면 요청이 지연되거나 실패할 수 있다.
최신 모델 반영도 항상 늦는 편이다. Anthropic이 새 Claude 모델이나 신규 기능을 자체 API에 먼저 공개하고, Bedrock에는 몇 주에서 몇 달 뒤에야 같은 수준으로 올라오는 패턴이 반복된다. 에이전트 관련 신기능일수록 그 격차가 더 벌어지는 편이다.
결국 인프라, 보안, 모델 호출이 AWS라는 한 클라우드 안에 묶이면서 벤더 종속(vendor lock-in, 특정 업체 서비스에 깊이 의존해 다른 곳으로 옮기기 어려워지는 상태) 문제도 남는다. Bedrock 전용 API 형식과 IAM 정책에 맞춰 코드를 짜다 보면, 나중에 다른 클라우드나 직접 API로 옮기는 전환 비용이 커진다.
자주 묻는 질문 FAQ
Q1) AWS Bedrock은 무료로 쓸 수 있나
기본 가입비나 월 사용료는 없다. 다만 모델을 호출하는 순간부터 입력, 출력 토큰 단위로 과금이 시작되고, RAG나 에이전트 같은 부가 기능을 켜면 별도 요금이 추가로 붙는다.
Q2) Bedrock에서 Claude를 쓰는 것과 Anthropic 직접 API를 쓰는 것 중 뭐가 나은가
보안 감사, IAM 통합, AWS 인프라와의 결합이 중요하면 Bedrock이 유리하다. 반대로 최신 모델과 신규 기능을 가장 빠르게 써야 한다면 Anthropic 직접 API 쪽이 앞선다.
Q3) Bedrock과 Amazon SageMaker는 뭐가 다른가
Bedrock은 이미 학습된 파운데이션 모델을 API로 불러 쓰는 서비스다. SageMaker는 자체 모델을 처음부터 학습, 배포하는 데 특화된 머신러닝 플랫폼이라 목적 자체가 다르다.