26개의 재귀적 GPT 프롬프트로 SQL 분석가 대체하기
Editor 선미's comment
GPT 열풍입니다. 데이터리안도 유행에 뒤쳐질 수 없죠! “Replacing a SQL analyst with 26 recursive GPT prompts”를 저자의 허락을 받고 번역했습니다. 컨셉에 충실하기 위해 번역은 DeepL Translator의 도움을 받았습니다. 재미있게 읽어주세요.
(참고로, 여기에 제가 구축한 모든 코드가 있으며, Patterns AI Studio 에서도 사용해 볼 수 있습니다.)
제가 Square에 근무할 때 팀 규모가 작았을 때는 끔찍한 '분석 온콜(Analytics on-call)' 로테이션이 있었습니다. 엄격하게 주 단위로 돌아가면서 근무를 했는데, 자신의 차례가 되면 그 주에 '진짜' 업무는 거의 하지 못하고, 회사의 다양한 제품 및 운영 팀으로부터 임시로 들어오는 질문을 처리하는 데 대부분의 시간을 할애해야 했습니다. 분석 팀에서 관리자 역할을 차지하기 위한 경쟁이 치열했는데, 저는 이 이유가 관리자는 이 로테이션에서 제외되기 때문이었다고 생각합니다.
그래서 분석 당직과 같은 업무를 GPT-3와 같은 차세대 토큰 옵티마이저로 완전히 대체할 수 있다는 생각은 제가 오래 전부터 시도해보고 싶었던 아이디어였습니다. 드디어 이번 주에 직접 사용해 볼 수 있는 기회를 얻었습니다.
곧 펀드레이징 프로세스를 시작할 예정이라, 투자자, 회사, 펀드레이징 라운드에 대한 크런치베이스 데이터 세트 위에 자유형 질문에 답하는 분석 봇을 구축하려고 시도한 아이디어를 테스트할 수 있었습니다. 저는 이 봇을 크런치봇(CrunchBot)이라고 부릅니다.
자세한 내용은 계속 읽어보시기 바라며, 여기서는 간단한 작업을 정확하게 수행하는 간단한 예시를 보여드리겠습니다:
seed-ab4e45fc74ecd2b04a3ae62efc54797c.png
그리고 더 복잡한 문제를 정확하게 해결한 예도 있습니다:
그리고 완전히 잘못 푼 예도 있습니다 (davinci-003, 조인 조건이 잘못됐잖아!):
그리고 중간 정도의 복잡도는 대부분 옳았습니다:
전반적으로 결과의 품질에 놀랐습니다. LLM은 계속해서 놀라움을 자아내지만, 단 몇 시간의 노력으로 회사에서 한 포지션을 거의 대체할 수 있는 결과를 낸다는 것은 충격적일 정도입니다.
구축 방법
제 계획은 Patterns Studio 에서 구축하는 것이었습니다. 크게 네 부분으로 구성되었습니다.
프롬프트 만들기
사용자의 질문
사용 가능한 테이블의 스키마 및 샘플 데이터
정확한 명령
다양한 GPT 모델을 통해 실행하고 5개 이상의 완성된 SQL문을 얻는 것
SQL을 실행하고 가장 나은 결과를 선택하는 것
Slack 봇에 연결
마지막에는 신속한 개선 사항을 계속 빠르게 찾아내면서 훨씬 더 복잡한 파이프라인을 갖게 되었습니다. 특히 SQL 생성 및 실행 부분은 다음과 같은 재귀 구조를 가지게 되었는데요:
후보 쿼리 생성
GPT 스스로 SQL을 품질 검사하여 일반적인 오류(예: NULLS LAST)를 발견하고 올바른 쿼리를 생성
테이블에 대해 SQL을 실행
오류가 있거나 결과가 없는 경우, 올바른 결과를 생성하도록 GPT에 쿼리를 수정하도록 요청하고 위 과정을 반복
그렇지 않으면 결과를 반환
이렇게 하게 되면 1개의 사용자 질문을 처리하는데 GPT를 20회 이상 호출하는 체인이 만들어집니다. GPT 호출을 한 번 더 할 때마다 점진적인 성능 개선이 보이는데, 성능 그래프는 대체로 로그 함수처럼(logarithmic improvement)* 보입니다. 한 번 호출을 완료할 때마다 더 많은 컨텍스트와 검사를 추가하고 다른 버전을 탐색하고 결과를 반복할 수 있습니다. 이는 주니어 분석가가 답을 얻기 위해 사용하는 것과 동일한 프로세스로, 이 경우 15초가 걸리고 크레딧으로 1달러가 드는 반면 분석가는 50달러와 1시간이 소요됩니다.
어쨌든, 제가 어떻게 구축했는지에 대한 단계별 설명은 다음과 같습니다. 모든 코드가 포함된 패턴의 템플릿 앱에서 따라할 수 있습니다. (데이터가 포함되어 있지 않으며, Crunchbase는 독점 데이터 세트입니다. 이 특정 데이터 세트를 탐색하는 데 관심이 있으시면 kvh@patterns.app 으로 문의하세요)
1. 크런치베이스 데이터 받기
전체 Crunchbase 데이터 세트에는 240만 개의 조직과 51만 개의 펀딩 라운드가 포함되어 있습니다. 우리는 24시간마다 전체 CSV 덤프를 통해 이 데이터를 Postgres 인스턴스로 수집합니다. 이 분석을 위해 organizations, funding_rounds, 그리고 investment 세 가지 테이블을 사용했습니다.
2. 초기 프롬프트 빌드
초기 SQL 생성 프롬프트는 세 가지 기본 요소를 포함합니다: 쿼리할 수 있는 테이블과 데이터의 요약, 사용자의 질문, 그리고 GPT에 올바른 Postgres 쿼리를 작성하도록 요청하는 프롬프트. 다음은 우리가 사용한 템플릿입니다:
prompt = f"""{tables_summary}

As a senior analyst, given the above schemas and data, write a detailed and correct Postgres sql query to answer the analytical question:

"{question}"

Comment the query with your logic."""

예를 들어 다음과 같은 프롬프트가 표시됩니다:
Schema for table: organizations
  uuid Text
    name Text
    roles Text
    country_code Text
    region Text
    city Text
    status Text
    short_description Text
    category_list Text
    num_funding_rounds Float
    total_funding_usd Float
    founded_on Date
    employee_count Text
    email Text
    primary_role Text

Data for table: organizations:
                                   uuid                        name    roles  \
0  ac323097-bdd0-4507-9cbc-6186e61c47a5       Bootstrap Enterprises  company
1  717ce629-38b6-494d-9ebf-f0eeb51506f8                  Campanizer  company
2  c8cbaa69-c9db-44e2-9ffa-eb4722a62fe3                       Cambr  company
3  5ab1ae3d-c3a1-4268-a532-b500d3dd6182                  CallMeHelp  company
4  143f840b-551c-4dbd-a92b-0804d654b5cf  California Cannabis Market  company

  country_code      region           city     status  \
0         <NA>        <NA>           <NA>  operating
1          USA    Colorado        Boulder  operating
2          USA    New York       New York  operating
3          GBR   Stockport      Stockport  operating
4          USA  California  San Francisco     closed

                                   short_description  \
0  Bootstrap Enterprises is an organic waste mana...
1  Campanizer organizes schedule and coordinates ...
2  Cambr enables companies to build and scale fin...
3  CallMeHelp provides early warning and care ove...
4  California Cannabis Market is an information t...

                                     category_list  num_funding_rounds  \
0              Consulting,Organic,Waste Management                 NaN
1                Information Technology,Scheduling                 NaN
2                       Banking,Financial Services                 NaN
3                     Fitness,Health Care,Wellness                 NaN
4  B2B,Information Services,Information Technology                 NaN

   total_funding_usd founded_on employee_count                 email  \
0                NaN        NaT        unknown                  <NA>
1                NaN 2017-01-01           1-10  hello@campanizer.com
2                NaN        NaT        unknown       sales@cambr.com
3                NaN 2017-01-01           1-10                  <NA>
4                NaN 2018-01-01           1-10                  <NA>

  primary_role
0      company
1      company
2      company
3      company
4      company


Schema for table: investments
  uuid Text
    name Text
    funding_round_uuid Text
    funding_round_name Text
    investor_uuid Text
    investor_name Text
    investor_type Text
    is_lead_investor Boolean

Data for table: investments:
                                   uuid  \
0  524986f0-3049-54a4-fa72-f60897a5e61d
1  6556ab92-6465-25aa-1ffc-7f8b4b09a476
2  0216e06a-61f8-9cf1-19ba-20811229c53e
3  dadd7d86-520d-5e35-3033-fc1d8792ab91
4  581c4b38-9653-7117-9bd4-7ffe5c7eba69

                                                name  \
0                Accel investment in Series A - Meta
1             Greylock investment in Series B - Meta
2  Meritech Capital Partners investment in Series...
3  Trinity Ventures investment in Series B - Phot...
4        Founders Fund investment in Series A - Geni

                     funding_round_uuid      funding_round_name  \
0  d950d7a5-79ff-fb93-ca87-13386b0e2feb         Series A - Meta
1  6fae3958-a001-27c0-fb7e-666266aedd78         Series B - Meta
2  6fae3958-a001-27c0-fb7e-666266aedd78         Series B - Meta
3  bcd5a63d-ed99-6963-0dd2-e36f6582f846  Series B - Photobucket
4  60e6afd9-1215-465a-dd17-0ed600d4e29b         Series A - Geni

                          investor_uuid              investor_name  \
0  b08efc27-da40-505a-6f9d-c9e14247bf36                      Accel
1  e2006571-6b7a-e477-002a-f7014f48a7e3                   Greylock
2  8d5c7e48-82da-3025-dd46-346a31bab86f  Meritech Capital Partners
3  7ca12f7a-2f8e-48b4-a8d1-1a33a0e275b9           Trinity Ventures
4  fb2f8884-ec07-895a-48d7-d9a9d4d7175c              Founders Fund

  investor_type  is_lead_investor
0  organization              True
1  organization              True
2  organization              True
3  organization              <NA>
4  organization              True


Schema for table: funding_rounds
  uuid Text
    region Text
    city Text
    investment_type Text
    announced_on Date
    raised_amount_usd Float
    post_money_valuation_usd Float
    investor_count Float
    org_uuid Text
    org_name Text
    lead_investor_uuids Text

Data for table: funding_rounds:
                                   uuid      region            city  \
0  8a945939-18e0-cc9d-27b9-bf33817b2818  California      Menlo Park
1  d950d7a5-79ff-fb93-ca87-13386b0e2feb  California      Menlo Park
2  6fae3958-a001-27c0-fb7e-666266aedd78  California      Menlo Park
3  bcd5a63d-ed99-6963-0dd2-e36f6582f846    Colorado          Denver
4  60e6afd9-1215-465a-dd17-0ed600d4e29b  California  West Hollywood

  investment_type announced_on  raised_amount_usd  post_money_valuation_usd  \
0           angel   2004-09-01           500000.0                       NaN
1        series_a   2005-05-01         12700000.0                98000000.0
2        series_b   2006-04-01         27500000.0               502500000.0
3        series_b   2006-05-01         10500000.0                       NaN
4        series_a   2007-01-17                NaN                10000000.0

   investor_count                              org_uuid     org_name  \
0             4.0  df662812-7f97-0b43-9d3e-12f64f504fbb         Meta
1             4.0  df662812-7f97-0b43-9d3e-12f64f504fbb         Meta
2             5.0  df662812-7f97-0b43-9d3e-12f64f504fbb         Meta
3             2.0  f53cb4de-236e-0b1b-dee8-7104a8b018f9  Photobucket
4             1.0  4111dc8b-c0df-2d24-ed33-30cd137b3098         Geni

                                 lead_investor_uuids
0               3f47be49-2e32-8118-01a0-31685a4d0fd7
1               b08efc27-da40-505a-6f9d-c9e14247bf36
2  e2006571-6b7a-e477-002a-f7014f48a7e3,8d5c7e48-...
3                                               <NA>
4               fb2f8884-ec07-895a-48d7-d9a9d4d7175c


As a senior analyst, given the above schemas and data, write a detailed and correct Postgres sql query to answer the analytical question:

"Who were the largest biotech investors in 2022?"

Comment the query with your logic.
3. 쿼리 다시 확인
GPT가 몇 가지 일반적인 실수를 반복해서 저지르는 것을 발견했기 때문에(모든 분석가가 저지르는 것과 같은 실수), 다른 작업을 하기 전에 각 쿼리를 검토하고 버그를 수정하라는 구체적인 메시지를 줬습니다:
prompt = f"""{query.sql}

Double check the Postgres query above for common mistakes, including:
 - Remembering to add `NULLS LAST` to an ORDER BY DESC clause
 - Handling case sensitivity, e.g. using ILIKE instead of LIKE
 - Ensuring the join columns are correct
 - Casting values to the appropriate type

Rewrite the query here if there are any mistakes. If it looks good as it is, just reproduce the original query."""
4. 생성된 SQL을 데이터베이스에 대해 실행하고 오류를 수정합니다.
다음으로 데이터베이스에 대해 SQL을 실행해봅니다. 결과가 나오면 결과와 쿼리를 저장합니다. 결과가 나오지 않거나 오류가 발생하면 GPT에 SQL 수정을 요청합니다:
error_prompt = f"""{query.sql}

The query above produced the following error:

{query.error}

Rewrite the query with the error fixed:"""

no_result_prompt = f"""{query.sql}

The query above produced no result. Try rewriting the query so it will return results:"""
다음은 다음 쿼리를 사용하여 이 단계가 잘 작동하는 예입니다. 오류를 발견할 수 있나요?
SELECT org_category,
SUM(CASE WHEN YEAR(announced_on) = 2021 THEN raised_amount_usd ELSE 0 END) as 2021_investments,
SUM(CASE WHEN YEAR(announced_on) = 2022 THEN raised_amount_usd ELSE 0 END) as 2022_investments,
SUM(CASE WHEN YEAR(announced_on) = 2022 THEN raised_amount_usd ELSE 0 END) - SUM(CASE WHEN YEAR(announced_on) = 2021 THEN raised_amount_usd ELSE 0 END) as diff_investments
FROM organizations o JOIN funding_rounds f ON o.uuid = f.org_uuid
GROUP BY org_category
ORDER BY diff_investments DESC NULLS LAST
LIMIT 1;
구문 오류(Syntax error)입니다:
ERROR:  syntax error at or near "2021_investments"
LINE 2: ..._on) = 2021 THEN raised_amount_usd ELSE 0 END) as 2021_inves...
그런 다음 이 새로운 쿼리로 수정되었습니다:
SELECT org_category,
SUM(CASE WHEN YEAR(announced_on) = 2021 THEN raised_amount_usd ELSE 0 END) as investments_2021,
SUM(CASE WHEN YEAR(announced_on) = 2022 THEN raised_amount_usd ELSE 0 END) as investments_2022,
SUM(CASE WHEN YEAR(announced_on) = 2022 THEN raised_amount_usd ELSE 0 END) - SUM(CASE WHEN YEAR(announced_on) = 2021 THEN raised_amount_usd ELSE 0 END) as diff_investments
FROM organizations o JOIN funding_rounds f ON o.uuid = f.org_uuid
GROUP BY org_category
ORDER BY diff_investments DESC NULLS LAST
LIMIT 1;
5. N회 반복
위의 완료 루프를 반복합니다. 이전 결과와 일치하는 결과를 얻거나 최대 시도 횟수 제한(이 경우 5회)에 도달하면 이 루프를 중지하도록 선택했습니다.
6. Slack 봇 빌드하기
Slack 봇 용 기성 패턴 템플릿을 사용하여 연결했습니다. 전체 GPT 파이프라인은 20초 이상 걸릴 수 있으므로 원래 Slack 멘션을 빠르게 인식하기 위해 두 번째 슬랙 노드를 추가했습니다.
결론
GPT가 이 작업을 얼마나 잘 수행할 수 있는지는 거의 한계가 없는 것 같습니다. 나머지 실패 모드는 컨텍스트가 누락되었거나 반복 디버깅이 충분하지 않은 경우였습니다(모든 분석 노력의 핵심인 반복 디버깅). 예를 들어, GPT는 질문에 답할 때 카테고리 또는 회사 이름의 정확한 이름과 철자를 추측해야 했습니다. 먼저 몇 가지 '조사' 쿼리를 실행할 수 있었다면, 최종 프롬프트와 쿼리를 통해 정답에 도달할 수 있는 충분한 컨텍스트를 구축할 수 있었을 것입니다. 이 수준에서 GPT를 사용해 보면 "재귀적 GPT"가 AGI**에 매우 가깝다는 느낌을 받을 수 있습니다. 심지어 GPT에 스스로 강화 학습을 요청하여 이전 질문에 대한 수정 사항을 기반으로 새로운 프롬프트를 추가하도록 할 수도 있습니다. 물론 GPT-4 에서는 이 모든 것이 어떻게 될지 누가 알겠습니까?
역자 주
 *Logarithmic improvement: https://en.wikipedia.org/wiki/Logarithmic_growth
**AGI: https://en.wikipedia.org/wiki/Artificial_general_intelligence


conversion_type

시리즈 내 순서

conversion_text

멤버 전용

대표 이미지

공개 가능

작성일

예상 읽기 시간

전환 텍스트

글쓴이

시리즈

상단 노출

전환 유형

요약

제목

이 글은 미디엄에 게재된 Taylor Brownlow의 아티클(Data & Analytics Trends to Watch in 2022)을 번역한 내용입니다. 

2022년 지켜봐야 할 데이터 업계 트렌드

이 글은 Taylor Brownlow 의 아티클(Dashboards are Dead)을 번역한 내용입니다.

내가 만든 대시보드는 왜 아무도 보지 않을까?

이 글은 Patterns 블로그에 게재된 아티클(Replacing a SQL analyst with 26 recursive GPT prompts)을 번역한 내용입니다.

26개의 재귀적 GPT 프롬프트로 SQL 분석가 대체하기

이 글은 Andreessen Horowitz 블로그에 게재된 Frank Chen의 아티클(16 Startup Metrics)을 번역한 내용입니다. 

26개의 재귀적 GPT 프롬프트로 SQL 분석가 대체하기

Contents

데이터 분석 소식을
매월 받아보세요

🌏 해외 데이터 분석 소식 모아모기

함께 읽어보면 좋은 글

연산 결과에 인덱스 걸기 (Indexes on Expressions)

감이 아닌 데이터로, 사회 문제를 더 정확하게 바라보아요

여러 종류의 Key 이해하기 (feat. PK, FK의 정확한 의미)

데이터 분석 소식을
매월 받아보세요데이터 분석 소식을 받아보세요

26개의 재귀적 GPT 프롬프트로 SQL 분석가 대체하기

Contents

데이터 분석 소식을 매월 받아보세요

🌏 해외 데이터 분석 소식 모아모기

함께 읽어보면 좋은 글

연산 결과에 인덱스 걸기 (Indexes on Expressions)

감이 아닌 데이터로, 사회 문제를 더 정확하게 바라보아요

여러 종류의 Key 이해하기 (feat. PK, FK의 정확한 의미)

데이터 분석 소식을 매월 받아보세요데이터 분석 소식을 받아보세요

데이터 분석 소식을
매월 받아보세요

데이터 분석 소식을
매월 받아보세요데이터 분석 소식을 받아보세요