Server/NGINX (2) 썸네일형 리스트형 [NGINX] Multiple Upstream 구성하기 HTML 삽입 미리보기할 수 없는 소스 개요 AWS-EC2에 Nginx의 Reverse Proxy를 이용해 FastAPI와 연계해 놓은 구성에 추가로 FastAPI를 등록해서 사용해야 한다. 이때 추가로 등록하고자 하는 FastAPI는 기존에 연계해 놓은 FastAPI가 아닌 전혀 다른 프로젝트를 기반으로 하는 것이다. 1. 도식 아래는 이해를 돕기 위해 기존에 등록한 구성의 도식이다. 만약 "http://www.example.com/"를 입력하면 먼저 설정해 놓은 "A-Service"로 라우팅 된다. A-Service의 Wroker를 증가시킴으로써 Nginx의 Upstream의 구성이 달라질 수는 있겠지만 위 도식은 일반적인 예제를 그린 것이다. 이러한 설정에 다음과 같은 구성을 추가적으로 설정하려 .. [NGINX] 504, Gateway Time-Out HTML 삽입 미리보기할 수 없는 소스 개요 FastAPI + LangChain을 이용한 간단한 WAS를 AWC-EC2에 올려놨다. 이 구조에 더해 Reverse Proxy로써 Nginx도 같이 구성해 놓은 상황이다. 또한 LangChain에서 특정 결과를 내기까지 적어도 60~80초가 걸리는 현상이 존재하는 상황이기도 하다. 그렇다보니 요청을 한 후 응답을 받기까지의 시간이 60초가 넘었을 때 Nginx에서 504 Gateway TimeOut이 뜨는 현상이 발생했다. 어떻게 해결할 수 있을까? 1. Nginx에 설정 추가하기 Nginx에서 일단 설정을 다음과 같은 설정을 추가해 주자. location / { # 아래 항목 추가 proxy_connect_timeout 300; proxy_send_tim.. 이전 1 다음
