Cursor에서는 다양한 생성형 AI 모델을 제공해줍니다.
무료로 사용하는 사람들도 조금은 사용할 수 있지만 조금 쓰다보면 quota를 넘기기 일쑤입니다. 그래서 많은 사람들이 Cursor를 Pro plan 이상으로 비용을 내면서 사용하고 있습니다. 오늘은 cursor AI의 OpenAI 모델을 Bedrock Access Gateway로 대체하여 Cursor + Bedrock 연동을 해보도록 하겠습니다.
먼저 Bedrock Access Gateway를 구성해봅시다.
그 전에 사용하고자 하는 Bedrock 모델을 활성화 해줍니다.
https://us-west-2.console.aws.amazon.com/bedrock/home?region=us-west-2#/modelaccess
https://us-west-2.console.aws.amazon.com/bedrock/home?region=us-west-2#/modelaccess
us-west-2.console.aws.amazon.com
Antropic 사의 Claude 3.7 Sonnet 모델을 활성화해줍니다.
그 다음, secrets manager 서비스에서 secrets 를 만들어줍니다.
api_key: bedrock 으로 key:value pair를 만들어줍니다.
secrets 이름은 BedrockProxyAPIKey로 하겠습니다.
이후에, Bedrock Access Gateway를 구성하기 위해 bedrock access gateway github page에 방문합니다.
https://github.com/aws-samples/bedrock-access-gateway
GitHub - aws-samples/bedrock-access-gateway: OpenAI-Compatible RESTful APIs for Amazon Bedrock
OpenAI-Compatible RESTful APIs for Amazon Bedrock. Contribute to aws-samples/bedrock-access-gateway development by creating an account on GitHub.
github.com
가운데 CloudFormation stack 링크를 제공해줍니다. ALB + Fargate 1-Click Deploy 버튼을 눌러 Cloudformation 페이지로 접근합니다.
여기서 ApiKeySecretArn은 앞서 만든 secret의 arn 을 넣어줍니다.
그 다음 DefaultModelId는 아까 활성화한 model을 쓰고 싶습니다. 신나게 bedrock service로 가서 model ID를 복사해서 붙여넣으시면 동작하지 않습니다.
bedrock access gateway github에서 https://github.com/aws-samples/bedrock-access-gateway/blob/main/docs/Usage.md#reasoning 페이지를 보시면 model ID가 있습니다. 이걸 사용합니다.
us.anthropic.claude-3-7-sonnet-20250219-v1:0
Cloudformation 배포를 기다린 다음 Outputs 탭에 보시면 URL이 하나 있는 것을 확인할 수 있습니다. 이걸 복사합니다.
자 마지막으로 cursor 에서
기본설정 - Cursor Settings를 선택해 설정 화면에서 Models를 선택합니다.
OpenAI API Key는 아까 secrets에서 api_key의 값으로 넣은 bedrock을 넣어줍니다.
Override OpenAI Base URL에는 cloudformation에서 Output으로 나왔던 url을 넣어줍니다.
모두 입력 후 Save 버튼을 누르고, Verify 버튼을 눌러 줍니다. 그리고 Enable OpenAI API Key 버튼을 클릭해줍니다.
우측 상단에 초록색으로 활성화가 되면 설정이 완료되었습니다.
OpenAI 를 override 하였으므로, 모델은 gpt-4o로 설정해줍니다.
AFT 코드를 읽혀봤더니 잘 읽는 것을 살펴볼 수 있습니다.
'AWS' 카테고리의 다른 글
Provisioned Concurrency에 대한 고찰 (0) | 2024.08.31 |
---|---|
SES가 꺼졌다. (1) | 2024.02.24 |
JIRA에서 IAM 권한 요청 관리하기 (0) | 2024.02.12 |
IAM 서비스 알고 쓰자 - 1 (0) | 2023.09.28 |
EC2에서 로그 확인 (0) | 2023.08.31 |