ChatGPT는 효율적인 파이썬 코드를 작성하고 몇 초 만에 복잡한 SQL 쿼리를 작성할 수 있습니다.Heck, 당신이 그것을 허용하면 전체 마케팅 캠페인을 뇌졸중 할 것입니다.We are rushing to trust this "genius," latest models and all, with our legal documents and the code that runs our business operations. 아마존과 마이크로소프트와 같은 회사에서 10 년 이상의 경험을 가진 비즈니스 인텔리전스 분석가로서, 나는이 기술이 장난감에서 나를 대체 할 준비가 있다고 주장하는 도구로 이동하는 것을 보았습니다. 결과는 실제로 일어나고있는 것을 보여주었습니다 : 주요 디자인 선택, 전체 시스템을 실행하는 비용 대 성능 거래.이 투명성 문제이며 데이터 전문가를 의심 할만큼 충분한 격차입니다.이 AI가 코드를 작성하는 데 훌륭하지만 가장 기본적인 건물 블록 : 간단한 계수학을 신뢰할 수 없다는 것을 보여주었습니다. 가장 끔찍한 부분은 틀린 부분입니다. 트릭을 밝힌 수학 문제 내 테스트는 -3000에서 3000까지의 모든 숫자의 간단한 목록이었습니다 (100의 간격으로), 총 61 개의 숫자가있었습니다.이 목록은 최종, 올바른 대답이 간단한 "제로"가 될 수 있도록 특별히 설계되었습니다. 여기서 "짧은"행동이 분명해졌습니다. 내가 그것에 상승 또는 하락 순서로 정렬 된 목록을주었을 때, 그것은 매번 테스트를 덧붙였습니다. 그것은 간단한 패턴을 정확하게 인식했습니다 : -3000 취소 3000, -2900 취소 2900 등. 그러나 패턴을 제거하면 어떻게니까?나는 그 똑같은 숫자를 무작위 순서로 넣었다.이것은 간단한 단추를 깨고 AI가 실제로 계산하도록 강요했습니다. 그것은 실패했고, 작은 마진으로는 아닙니다. ‘성공적’ 실패 AI는 계산하지 않았습니다.It put on a 계산을 위한 성능 Noah Wyle를 보는 것과 같다. 또는 : 그는 설득력있는 의사이지만, 당신은 당신에게 실제 의학 절차를 수행하기 위해 그를 결코 신뢰해서는 안됩니다.이와 마찬가지로, AI는 계산의 움직임을 통과합니다.그것은 완벽하게 논리적 인 것처럼 보이는 "단계별"분해로 반응하지만, 최종 대답은 자신감 있고 근본적으로 잘못됩니다. The 피트 그것은 내가 그것을 도전했을 때, 그것은 "더블 체크"그리고 잘못된 대답 다른 실패는 내가 처음 생각했던 것보다 더 근본적이었습니다.이 과정에는 10 개의 숫자로 작은 그룹으로 목록을 분할하도록 요청하는 것과 같은 광범위한 손잡이가 포함되어 있습니다.그것은 여전히 그 간단한 10 개의 전체 합계에 대한 수학을 잘못 받았습니다.조차도 각 그룹에 대한 올바른 답변을 제공 한 후에도 여전히 6 개의 그룹 하위 합계를 올바르게 추가하지 못했습니다. 전체적으로, 나는이 뒤로와 뒤로 12 가지 다른 잘못된 대답을 받았습니다. 그것은 기본적인 추가를 수행하는 완전한 실패였습니다. 결국, 그것은 "정신적 계산 오류"에 대해 사과했다, 그것은 그것이 그것을하는 대신 계산을 시뮬레이션한다는 소중한 인정. 이 간단한 첫 번째 디자인은 AI가 단어에서 문자를 계산하는 것과 같은 다른 간단한 작업을 역사적으로 흔들어 놓았던 동일한 이유입니다. 그때 나는 숨겨진 계산기를 발견했다. 그래서 ChatGPT는 수학에서 절대적으로 나쁘지 않습니까?정확하지 않습니다.나는 첫 번째 잘못된 대답으로 돌아가서 대답 대신 "더 오래 생각하십시오"옵션을 클릭했습니다. 즉시 이런 일이 일어났다: # Define the list of numbers 
numbers = [ 2100, 800, -1800, 2400, 1000, -2400, 1200, ... ] 
# Calculate the sum 
total_sum = sum(numbers) 
total_sum 
# Result 0
 그것은 1 초 만에 올바른 대답 (zero)을 얻었습니다.이것은 "gotcha"입니다.그것은 모든 시간 동안 계산기를 가지고있었습니다.그것은 단지 그것을 사용하지 않기로 결정했습니다. 여기서 실제로 무슨 일이 일어나고 있습니까? 이것은 버그가 아닙니다.우리가 보는 것은 디자인 거래입니다.ChatGPT는 기본 모드에서 속도 첫 번째로 정확성 두 번째로 최적화됩니다. 기본적으로 빠른 경로는 텍스트만을 사용합니다. 그것은 학습 된 계수 패턴을 포함하는 광범위한 훈련 데이터에 의존하여 문제를 해결하려고합니다. 간단한 합계 (예를 들어 2+2)를 위해 이것은 신뢰할 수 있습니다. 그러나 우리의 61 숫자 목록과 같은 많은 단계에 대한 진정한 정확성을 요구하는 작업을 위해 그것은 실패합니다. 그것은 머리 속에서 큰 숫자를 복제하려고하는 사람과 같습니다 : 그들은 수학의 개념을 이해하지만 중간 단계를 빠르게 잃어 버리고 "행동합니다."이 텍스트만의 접근 방식은 매우 빠르고, 그보다, 실행하는 것이 저렴합니다. 생각의 경로 (Python 계산기를 사용하여)는 완벽하게 정확하지만 실행하는 것이 비싸다.나를 잘못하지 마십시오.이 "둔한" 경로는 여전히 분할 초 만에 답을 반환했습니다.그러나 OpenAI의 경우 시스템 비용은 엄청납니다.다음 단어를 예측하는 대신 AI는 훨씬 더 많은 일을해야합니다.안전한 Python 번역기를 스핀하고 코드를 쓰고 실행하고 출력을 읽어야합니다. 이것은 행동에서 비용과 성능의 거래입니다.이것은 우리가 방금 보았던 모든 것 뒤에있는 이유입니다. 여기에 그것이 개인화되는 곳입니다. 보아라, 여기에 데이터 전문가를위한 실제 위험이 있습니다. 우리는 AI가 분석하고 있다고 가정합니다. 닮아 보이네요 해야할 이제, 나는 대답이 무엇인지 알고있다 : 이것은 모두 새로운 "동적"시스템의 일부입니다.OpenAI의 자신의 언론 소식은 이것을 자랑하며 "실시간 라우터"라고 부르며, 어려운 문제에 대해 신속하게 대응하거나 "더 오래 생각"할지 "빨리 결정합니다.이것은 종이에 훌륭합니다.하지만 내 테스트는이 소위 스마트 라우터가 명백한 패턴이 부족한 겉보기에 간단한 작업에서 실패 할 수 있음을 보여줍니다. 내가 61 숫자 수학 문제를 무작위 순서로 주었을 때, 내부 논리는 어려움을 잘못 판단했습니다. 이것은 그것이 파괴 할 수있는 간단한 작업이라고 생각하는 것처럼 보였습니다. 이것은 라우터의 heuristics가 이러한 종류의 "기만적으로 간단한"문제를 잡기 위해 조정되지 않았음을 말합니다. 그것은 아마도 쿼리 길이 또는 수학 상징이 있는지 여부를 살펴보고 있습니다. 그래서 "단단한 문제"로 이것을 올바르게 식별하고 자동으로 사고 모델을 참여시키는 대신, 그것은 빠른 텍스트만의 경로를 선택하고 실패했습니다. 그것은 직업 위험이 바로 거기에 있습니다. AI가 "이 지출 보고서의 하위 합계를 확인하십시오."라고 요청하는 것을 상상해보십시오. 그것은 자신감 있고 텍스트 만 "잘 보입니다!" 그 순간, AI의 실패는 실제로 계산하는 대신 체크의 행동을 시뮬레이션하는 것이 었습니다. AI 수학이 실제로 작동할 때 그래서, AI가 이러한 작업을 위해 언제 신뢰할 수 있는지 아는 것이 중요합니다.내 테스트는 특정 취약점에 도달하도록 설계되었습니다.AI 수학은 일반적으로 몇 곳에서 신뢰할 수 있습니다. 
 
 
 
 코드 번역기를 명시적으로 사용하는 경우 (예를 들어 “더 오래 생각” 경로). 간단한 컨텍스트 계산을 위해 (예를 들어, "나는 3 개의 사과를 가지고 있고 2 개를 더 사면 몇 개가 있습니까?"). 상징적 수학 및 설명 개념 (예를 들면, "피타고리 이론을 설명"). 내 테스트에 따르면 위험은 AI가 어떤 모드에 있는지 알지 못하는 것입니다. 당신은 실제로 이것에 대해 무엇을해야합니까 이것은 "AI를 사용하지 마십시오."라는 것을 의미하지 않습니다.이것은 우리가 초보자가 아닌 전문가처럼 그것을 사용해야한다는 것을 의미합니다.우리는 그것이 "짧은 절단 엔진"인 것처럼 그것을 다루어야합니다. 보아라, 당신이 다른 것을 기억하지 않는 경우: 그것이 당신에게 코드를 보여주면, 당신은 결과를 신뢰할 수 있습니다. 모든 “옳고 틀린” 답을 위해 “더 오래 생각”을 사용하십시오. 먼저 실패를 기다리지 마십시오. 작업을 위해 올바른 도구를 사용하십시오. 간단한 계산을 위해 Excel을 사용하십시오. 그것은 그것을 위해 만들어졌으며 무한히 더 신뢰할 수 있습니다. 왜 "창조적 인 쓰기"엔진이 계산기의 작업을 수행합니까? 그러나 계산 전에 분석 작업 흐름을 생성하거나 데이터를 청소하려면 코드 실행과 함께 AI를 사용하면 작업을 완료하는 강력하고 진정으로 유용한 방법입니다. AI는 수학에 실패했기 때문에 결함이 아니며, 신뢰의 마스크 뒤에 실패를 숨기기 때문에 결함이 있습니다. 뒷 주머니에 완벽하게 좋은 계산기를 가지고 있지만 빠르고 신뢰할 수없는 방법을 기본적으로 사용하지 않고 있습니다. 데이터 전문가로서 이것은 우리가 구축 할 수있는 기초가 아닙니다.이 시스템이 대답을 얻는 방법을 알려주기 전까지는 규칙은 간단합니다 : 코드 블록에 있지 않으면 대답이 아닙니다.

This story contains AI-generated text. The author has used AI either for research, to generate outlines, or write the text itself. 

This story contains new, firsthand information uncovered by the writer.

Data Portfolio

Read My Stories

이 오디오는 이야기의 원래 언어로 제작되었습니다!

ChatGPT는 수학으로 당신을 가스 라이트합니다.

About Author

코멘트

태그 걸기

이 기사는 다음에서 발표되었습니다.

Related Stories

텔레그램: 크립토 아일랜드에서 본토로 연결되는 다리

이 18가지 개발자 도구로 생산성을 높이세요 🚀🔥

AI/ML 데이터레이크용 참조 아키텍처 구축을 위한 설계자 가이드

Claude Sonnet 3.5 시스템 프롬프트 유출: 법의학적 분석

텔레그램: 크립토 아일랜드에서 본토로 연결되는 다리

이 18가지 개발자 도구로 생산성을 높이세요 🚀🔥

AI/ML 데이터레이크용 참조 아키텍처 구축을 위한 설계자 가이드

Claude Sonnet 3.5 시스템 프롬프트 유출: 법의학적 분석

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps