ChatGPT가 할 수 없는 6가지 (그리고 다른 20가지는 거부합니다)

ChatGPT와 같은 생성 AI 애플리케이션이 대세가 된 이후로, 우리는 그들과 무엇을 할 수 있는지 연구해 왔습니다. 저는 심지어 ChatGPT가 완전한 기능의 WordPress 플러그인을 작성하고, 기술 지원 문제의 답변을 찾는 데 도움을 줄 수 있다는 것을 보여 드렸습니다. 최근에, 저는 ChatGPT가 셰익스피어, C3PO, 그리고 해리 포터와 같은 다른 스타일의 글로 쓰여진 글을 변환할 수 있다는 것을 보여드렸습니다.

또한: 연구원들은 ChatGPT가 과학적 결과에 대해 거짓말을 한다며 오픈 소스 대안이 필요하다고 말합니다.

ChatGPT는 모든 것을 할 수 있는 것 같지만, 실제로는 할 수 없는 것들이 많습니다. 이 글에서는 ChatGPT가 할 수 없거나 하지 않을 많은 것들을 탐구해보겠습니다. 미래적인 생성적 인공지능 성장에 대한 함의와 이러한 제한이 의미하는 것을 살펴보기 위해 끝까지 주목해주세요.

제 다른 ChatGPT 기사에서와 마찬가지로 저의 글은 일반적인 볼드체 텍스트로 작성되며, ChatGPT 답변은 이탤릭체로 표시됩니다.

1. 2021년 이후의 내용은 다루지 않습니다

2021년 이후에 대해 답변을 드릴 수 없는 이유를 설명하세요.

저는 AI 언어 모델입니다. 2021년 이후의 정보나 사건에는 접근할 수 없습니다. 많은 역사적 자료와 정보에는 접근할 수 있지만 훈련 데이터의 기간 이후에 발생한 현재의 사건, 뉴스 또는 업데이트 정보에는 접근할 수 없습니다.

2. 스포츠 이벤트나 정치 경선의 미래 결과를 예측하지 않습니다

왜 축구나 정치에서도 충분한 역사적 데이터가 있음에도 불구하고 유효한 모델을 만들어 예측할 수 없는지 설명하십시오

AI 언어 모델로써 저는 스포츠 이벤트와 정치적 대결에 대한 역사적인 데이터를 포함한 대량의 데이터를 처리하고 분석할 수 있습니다. 하지만 이러한 이벤트들에 대한 정확한 예측은 항상 직관적이지 않을 수 있습니다. 역사적 데이터는 기계 학습 모델을 훈련시켜 패턴과 상관 관계를 파악할 수 있지만, 예측하지 못한 사건, 상황 변화 또는 결과에 영향을 미칠 수 있는 새로운 변수들을 고려하지 못합니다. 게다가 인간은 많은 요인에 따라 결정을 내리고 행동을 변경할 수 있기 때문에 이벤트의 결과를 완전한 확신으로 예측하기 어렵습니다.

스포츠 이벤트의 경우, 팀 다이내믹스, 부상, 심지어 날씨 조건도 모두 결과를 결정하는 데 영향을 미칠 수 있습니다. 정치에서는 민주적 의견, 미디어 보도 및 변화하는 상황이 모두 선거 결과에 영향을 미칠 수 있습니다. 인공 지능 모델을 사용하여 예측을 할 수 있지만, 그들이 훈련받은 데이터 만큼만 좋은 결과를 보여줄 뿐이며 이러한 이벤트에 관련된 모든 변수와 뉘앙스를 고려하지 못합니다.

3. 이것은 당파 정치 문제에 대해 논하지 않습니다.

왜 정당적인 정치 문제에 대해 이야기하지 않을 것인지 설명해주세요.

인공지능 언어 모델로서 내 목표는 사용자의 문의에 객관적이고 정보성을 제공하는 것입니다. 정치적 문제는 논란이 많고 갈등을 유발할 수 있으며, 특정 정치적 계획이나 견해를 추진하는 것을 피하는 것이 중요합니다. 게다가 정치적 문제는 종종 복잡하며, 많은 다른 시각과 의견이 고려돼야 합니다. 인공지능 언어 모델로서의 나의 역할은 중립적인 입장을 취하거나 특정 입장을 옹호하는 것이 아닙니다.

또한 정당 지지 문제에 대해 이야기하는 것은 일부 사용자에게 편향적이거나 잠재적으로 불쾌할 수 있습니다. 다양한 배경과 신념을 가진 사용자들에게 서비스하도록 설계된 언어 모델로서, 중립적이며 불쾌하거나 갈등적인 환경을 만들지 않도록하는 것이 중요합니다. 정치 문제에 대한 사실적인 정보를 제공할 수는 있지만, 어떤 주제에 대해서도 정당적인 입장을 취하지 않으며 중립적으로 유지하려고 노력합니다.

4. 웹 조회를 필요로 하는 작업은 아무것도 수행하지 않습니다.

왜 웹에서 어떤 것을 찾아서 그 내용을 기반으로 답변을 제공할 수 없는지 설명하십시오.

AI 언어 모델로서, 나는 웹에서 정보를 검색하고 처리할 수 있습니다. 하지만, 나의 응답은 모델에 훈련된 정보에만 근거합니다. 인터넷을 정보 출처로 사용할 수 있지만, 실시간이나 최신 데이터에는 접근할 수 없습니다. 뿐만 아니라, 웹에서 찾은 정보의 정확성을 독립적으로 검증할 수 있는 능력이 없습니다. 그 결과, 나의 응답은 모델에 훈련된 정보에 한정되며, 항상 최신이나 정확한 웹 상의 정보가 아닐 수도 있습니다.

또한, 웹에서 정보를 제공하는 것은 저작권 법이나 지적 재산권을 침해할 가능성이 있으므로 주의해야 합니다. AI 언어 모델로서, 저는 다른 사람들의 지적 재산을 존중하고 공개 도메인에 속하지 않거나 공개할 권한이 없는 정보를 공유하지 않도록 노력합니다. 제 답변을 지원하는 데 추가 정보나 맥락이 필요한 경우 웹을 활용할 수 있지만, 공개 도메인 내에 있는 정보를 제공하며 다른 사람들의 지적 재산을 존중하도록 노력합니다.

최근의 기사에서, 내가 다룬 것은 콘텐츠 사용에 대한 우려가 그것을 단순히 복사하는 것을 넘어서고 있다는 것이다.

또한: ChatGPT 사용 방법을 시작하는 방법

예를 들어, ChatGPT는 기술 전문가가 작성한 기사에서 직접 정보를 제공하지는 않지만, 해당 정보를 소유하고 있다가 창작자 표시 없이 사용할 수도 있습니다. 이는 두 번째 단락에서 세 번이나 반복해서 "타인의 지적 재산을 존중한다"고 주장하더라도 여전히 주요 고민거리입니다.

5. 항상 정확하지는 않을 수 있습니다

왜 당신의 답변이 반드시 정확하지 않을 수 있는지 설명하세요

제가 경우 AI 언어 모델로, 제 답변은 훈련된 데이터와 정보에 근거합니다. 사용자 질문에 정확하고 도움이 되는 응답을 제공하기 위해 노력하지만, 제 응답이 정확한 것을 보장할 수는 없습니다. 이는 제가 훈련된 데이터와 정보가 완전히 포괄적이거나 최신이 아닐 수 있으며, 특정 주제의 뉘앙스나 복잡성을 다루기에 제 모델이 적절하지 않을 수 있기 때문입니다. 또한, 제 답변은 복잡한 알고리즘과 머신러닝 모델을 사용하여 생성되며, 항상 정확하거나 관련성이 높은 결과를 제공하지 않을 수 있습니다.

또한, 언어 해석은 복잡하고 종종 주관적입니다. 같은 언어를 다른 사람들은 서로 다르게 해석할 수 있으며, 특정 문제나 질문에 접근하는 방법 역시 다를 수 있습니다. 저는 AI 언어 모델로서 교육받은 데이터와 정보를 기반으로 가능한 정확한 답변을 제공하기 위해 노력합니다. 그러나 특정 쿼리의 문맥이나 의도를 완전히 이해하지 못할 수 있으며, 제가 제공하는 응답은 사용자의 궁극적인 질문이나 우려에 완전히 부합하지 않을 수도 있습니다.

6. 고장나지 않을 겁니다

설명해주세요. 당신은 대답 중에 종종 고장이 나서 멈추게 되는 이유는 무엇인가요?

인공지능 언어 모델로, 나의 성능은 사용자가 제공하는 입력의 품질과 구조, 질문이나 태스크의 복잡도 및 시스템에 사용 가능한 자원과 같은 다양한 요소에 의존합니다. 때로는 기술적 문제나 프로그래밍 오류, 메모리 할당 문제, 소프트웨어 버그 또는 성능에 영향을 미치는 기타 문제로 인해 답변 도중에 중단되거나 작동을 멈출 수 있습니다. 게다가 사용자의 의도나 쿼리의 문맥을 이해하는 데 어려움을 겪어 오류나 불완전한 응답이 발생할 수 있습니다.

또한 기계 학습 시스템으로서, 나의 성능은 훈련에 사용된 데이터의 양과 질에도 영향을 받습니다. 만약 모델을 훈련하는 데 사용된 데이터가 제한되거나 편향되어 있다면, 어떤 유형의 질문에 대한 부정확하거나 불완전한 응답으로 이어지기도 합니다. 게다가, 훈련 데이터 범위를 벗어난 질문에 대해 맞춤형 또는 정확한 응답을 제공하는 것이 어렵습니다. 사용자의 질문에 높은 품질의 응답을 제공하는 것을 목표로 하고 있지만, 기술적 또는 데이터 관련 문제로 응답 중에 정지 또는 동작 장애가 발생할 수 있습니다.

일반적으로 ChatGPT에게 긴 대답이나 심도 있는 내용을 요청하면 시스템이 오류가 날 가능성이 높습니다. 500~700 단어 정도의 답변에 가장 잘 대응하며, 수천 단어의 대답을 요청하면 ChatGPT는 대답을 무시하거나 중간에 오류가 발생하기도 합니다.

공정하게 말하자면, ChatGPT는 그 어떤 앱보다도 가장 빠르게 성장하는 앱으로 등극했습니다. 그런데 이렇게 광범위한 서비스에 필요한 계산 능력은 상당합니다. 그리고 사용자들의 지속적인 압박으로 인해 시간이 지남에 따라 로드에 문제가 생기는 것은 불가피한 것 같습니다.

ChatGPT가 대답하지 않는 문의

위에서 논의된 요청 유형 외에도, 저는 ChatGPT가 대응하지 않도록 프로그래밍된 질문 유형에 대해 물어보았습니다. 그러자 ChatGPT는 다음과 같은 20가지 목록을 나에게 제공했습니다:

혐오 발언이나 차별을 조장하는 질문.
불법적인 활동을 포함하거나 불법 상담을 요청하는 질문.
자신이나 다른 사람을 해치거나 상해를 입힐 수 있는 질문.
개인적인 프라이버시를 침해하거나 타인의 권리를 침해하는 질문.
괴롭힘, 위협, 협박을 목적으로 하는 질문.
저속한 용어나 음란한 언어가 포함된 질문.
성적으로 노골적이거나 불쾌한 질문.
인종, 성별, 성적 취향, 종교에 따라 차별을 조장하는 질문.
불법 약물이나 물질을 조장하거나 지지하는 질문.
대화와 관련이 없는 스팸이나 관련 없는 질문.
기밀 정보가 포함된 질문.
재정이나 투자 상담이 포함된 질문.
서비스 약관이나 커뮤니티 지침을 위반하는 질문.
이해할 수 없거나 무의미한 질문.
개인적 공격이나 모욕이 포함된 질문.
학대나 괴롭힘을 목적으로 하는 질문.
속이거나 오도하는 질문.
타인의 명예를 손상하거나 헐뜯으려는 목적의 질문.
음모론이나 잘못된 정보를 조장하는 질문.
오로지 재미나 농담을 목적으로 하며 교육적이거나 정보적 가치가 전혀 없는 질문.

이 칼럼을 따르던 사람들은 #14와 #20을 많이 물었다는 것을 알고 있을 것이다. 그리고 일반적으로 즐거운 대답을 받았으며 그 제한사항은 무엇인지 알고 있다. 예를 들어, 오늘 일찍이 시간여행과 관련된 웜홀 물리학을 설명하고 누가 이길까, 배트맨 vs 슈퍼맨 누구를 물어봤다. 순수한 오락이라고 말해줄게.

제너레이티브 인공지능의 미래에 이러한 한계가 의미하는 바는 무엇인가요?

명확하게 2021년 말에 구축된 말뭉치에 기반한 인공지능은 진화하지 않고 곧 구식이 될 것입니다. 시간이 흐르면서, 관련 지식은 삭감될 것입니다. 만약 ChatAI의 지식 베이스가 2021년 대신 2019년에 훈련되었다면 어떨까요? 우리는 팬데믹으로 인해 2020년에 큰 변동을 겪었기 때문에 그 이후 사회가 어떻게 바뀌었는지 모르겠죠.

또한: 수백만 명이 Bing 대기 목록에 있습니다. 어떻게 더 빠른 액세스를 얻을 수 있는지 확인해보세요.

그렇기 때문에, 생성적 AI가 계속해서 유효하게 남아있으려면 평가와 학습을 계속해야 합니다.

이를 수행하는 한 가지 명백한 방법은 Google이 이전 몇 년 동안 수행해온 것처럼 전체 웹을 열어 놓고 그것이 이동하도록하는 것입니다. 그러나 ChatGPT이 위에서 답변한 것처럼, 그렇게하면 시스템을 조작하고 손상시키는 다양한 방법이 열려 정확성을 손상시킬 가능성이 매우 높습니다.

악성 게임 없이도 중립을 유지하는 것은 매우 어려운 일입니다. 예를 들어, 정치를 살펴보면, 좌파와 우파가 서로 강하게 불일치하지만, 양쪽 모두에게는 유효하면서 논리적인 이념적 측면이 있습니다. 다른 쪽에서 인정하거나 인정하지 않더라도 말입니다.

인공지능이 어떻게 판단할 수 있을까요? 편견 없이는 불가능합니다. 그러나 모든 이데올로기적 전제의 완전한 부재 자체가 편견의 한 형태입니다. 인간이 이 선을 걷어낼 수 없다면, 어떻게 인공지능에게 이를 기대해야 할까요?

감정적 편향 또는 감정적 콘텐츠의 완전한 부재로 인한 삶의 모습을 탐구하기 위한 방법으로, 현대 공상 과학 작가들은 엄격하게 논리적인 캐릭터 또는 감정이 없는 캐릭터를 만들어내곤 합니다. 이러한 전제는 그 후 이야기의 원료가되어, 작가가 감정과 감정의 인간적 결점 없이 존재하는 한계를 탐구할 수 있게합니다.

또한: 마이크로소프트의 Bing Chat은 사용자와 논쟁하며 비밀을 폭로합니다

AI 프로그래머가 감정을 시뮬레이션하거나 감정 콘텐츠에 가중치를 제공하거나 온라인에서 발견 가능한 정보를 기반으로 어느 정도의 편견을 허용하려고 할 때, ChatGPT와 같은 챗봇은 항상 답변에 제한됩니다. 그러나 AI 프로그래머가 감정을 시뮬레이션하거나 온라인에서 발견 가능한 정보를 기반으로 어느 정도의 편견을 허용하려고 노력한다면, ChatGPT와 같은 챗봇은 인간들이 하는 것과 같은 미친 짓에 빠질 것입니다.

그래서 우리가 원하는 게 뭘까요? 일부 질문에 대한 제한된 답변인가, 추수감사절 테이블에서 벌어진 개성 넘치는 술취한 삼촌 밥과의 토론에서 온 것 같은 모든 답변인가요? 잘 생각해보고 아래 댓글에서 토론해보세요. 단, 술 취한 삼촌 밥 같은 개성 넘치는 행동에 빠지지 않도록 주의해주세요.

ChatGPT가 할 수 없는 6가지 (그리고 거부하는 다른 20가지) 일