[NGINX] 504, Gateway Time-Out

 

목차

 

개요 

FastAPI + LangChain을 이용한 간단한 WAS를 AWC-EC2에 올려놨다. 이 구조에 더해 Reverse Proxy로써 Nginx도 같이 구성해 놓은 상황이다. 또한 LangChain에서 특정 결과를 내기까지 적어도 60~80초가 걸리는 현상이 존재하는 상황이기도 하다.

 

그렇다보니 요청을 한 후 응답을 받기까지의 시간이 60초가 넘었을 때 Nginx에서 504 Gateway TimeOut이 뜨는 현상이 발생했다. 

 

어떻게 해결할 수 있을까?

 

1.  Nginx에 설정 추가하기

Nginx에서 일단 설정을 다음과 같은 설정을 추가해 주자.

location / {
    # 아래 항목 추가
    proxy_connect_timeout 300;
    proxy_send_timeout 300;
    proxy_read_timeout 300;
    send_timeout 300;
}

 

Nginx에서 위와 같은 설정을 하지 않으면 기본 대기 시간은 60초가 default라고 한다. 위와 같은 설정을 추가해 주자. 해당 시간은 "초" 단위이다.

 

2. AWS-ELB를 사용한다면 

필자의 경우 Nginx 설정만으로는 해결되지 않았다. AWS-EC2를 ELB와 연계해서 사용하다 보니 ELB를 따로 설정하지 않아 발생한 케이스인데 ELB에서도 시간을 따로 설정해 주자.

---