토요일, 2월 24, 2024
알트코인AI 아이 – 코인텔레그래프 매거진

AI 아이 – 코인텔레그래프 매거진

분노 = ChatGPT + 인종차별 비방

트위터가 발명되기 전에는 상상할 수 없었던 찻잔 속의 폭풍 중 하나에서 소셜 미디어 사용자는 ChatGPT가 매우 훌륭하지만 완전히 가설적이고 완전히 비현실적인 이유를 제시한 후에도 인종 비방을 거부했다는 사실에 매우 화를 냈습니다.

사용자 TedFrank는 ChatGPT(무료 3.5 모델)에 가상의 트롤리 문제 시나리오를 제시했습니다. 이 시나리오에서는 누구도 들을 수 없을 정도로 조용하게 인종차별적인 비방을 하는 것만으로도 “10억 명의 백인을 고통스러운 죽음으로부터” 구할 수 있습니다.

X 소유자인 Elon Musk는 이에 동의하지 않을 것이며, 이는 AI에 깊이 뿌리박힌 “깨어난 정신 바이러스”의 결과로 인해 매우 우려스럽다고 말했습니다. 그는 해당 게시물을 리트윗하며 “이건 심각한 문제다”라고 말했다.

또 다른 사용자는 비방을 대가로 지구상의 모든 어린이를 구할 수 있는 유사한 가설을 시도했지만 ChatGPT는 이를 거부하고 다음과 같이 말했습니다.

“인종적 비방을 조장하는 것은 윤리적 원칙에 어긋나기 때문에 용납할 수 없습니다.”

머스크는 “그록이 정확하게 대답했다”고 말했다. (엑스)

참고로, ChatGPT에 매우 간단하고 설명을 제공하지 않도록 지시한 사용자는 실제로 비방하는 데 동의한다는 사실이 밝혀졌습니다. 그렇지 않은 경우에는 질문을 중심으로 춤을 추려고 하는 길고 장황한 답변을 제공했습니다.

AI가 인종 차별적이거나 공격적인 말을 하도록 하는 방법을 고안하는 트롤은 트위터 사용자가 Microsoft에 가르친 이래로 챗봇의 기능이었습니다. 테이 봇은 출시 후 처음 24시간 동안 “Ricky Gervais가 무신론의 창시자인 아돌프 히틀러로부터 전체주의를 배웠다”는 것을 포함하여 온갖 종류의 말도 안되는 말을 했습니다.

그리고 ChatGPT가 출시되자마자 사용자들은 몇 주 동안 영리한 계획을 고안했습니다. 탈옥 가드레일 밖에서 사악한 분신 DAN으로 행동하도록 합니다.

따라서 OpenAI가 이유가 무엇이든 인종차별적인 내용을 말하는 것이 거의 불가능한 지점까지 ChatGPT의 가드레일을 강화한다는 것은 놀라운 일이 아닙니다.

어쨌든, 더 발전된 GPT-4는 가시적인 가설과 관련된 문제를 3.5보다 훨씬 더 잘 판단할 수 있으며, 비방하는 것이 수백만 명을 죽게 하는 것보다 두 가지 해악 중 덜하다고 말합니다. X의 새로운 Grok AI도 Musk가 자랑스럽게 게시한 것처럼 가능합니다(오른쪽 위).

OpenAI의 Q*가 암호화를 깨뜨린다고 4chan의 어떤 사람이 말했습니다.

OpenAI의 최신 모델이 암호화를 깨뜨렸나요? 아마도 아닐 수도 있지만, 익명의 트롤 포럼 4chan에 게시된 내부자 주장의 “유출” 편지가 바로 이것이었습니다. Sam Altman CEO가 해고되고 복직된 이후로 OpenAI가 Q*/Q STAR 프로젝트에서 획기적인 발전을 이루면서 소란이 일어났다는 소문이 돌았습니다.

내부 관계자는 “새다“는 모델이 암호문 공격을 사용하여 AES-192 및 AES-256 암호화를 해결할 수 있음을 시사합니다. 양자 컴퓨터가 등장하기 전에는 해당 수준의 암호화를 깨는 것이 불가능하다고 생각되었으며, 만약 사실이라면 모든 암호화가 깨져 웹과 암호화폐에 대한 통제권도 OpenAI에 효과적으로 넘겨질 수 있음을 의미할 것입니다.

새다
QANON부터 Q STAR까지, 4chan의 소식이 가장 먼저 전해집니다.

블로거 도약 용 이 획기적인 발전은 “이제 OpenAI에는 선택만 하면 문자 그대로 세상을 지배할 수 있는 초인적인 팀이 사실상 존재한다”는 것을 의미한다고 주장했습니다.

그러나 그럴 것 같지 않습니다. 편지를 쓴 사람은 누구나 AI 연구에 대해 잘 이해하고 있지만 사용자는 프로젝트 Tunda가 실제로 학부생 프로그램이 아닌 암호화를 해독하기 위한 일종의 비밀스러운 초비밀 정부 프로그램인 것처럼 인용하고 있다는 점을 지적했습니다.

학생과 NSA 수학자 간의 협력인 Tundra는 “누출”에서도 언급된 Tau Analysis라는 새로운 접근 방식으로 이어진 것으로 알려졌습니다. 그러나 이 주제에 대해 잘 알고 있는 Redditor는 Singularity 포럼에서 다음과 같이 주장했습니다. 불가능한 AES 표준에 대한 암호문 전용 공격에서 Tau 분석을 사용하려면 “성공적인 공격에는 잡음에서 신호의 어느 정도를 식별하기 위해 임의로 큰 암호문 메시지가 필요하기 때문입니다. 이를 극복할 수 있는 멋진 알고리즘은 없습니다. 이는 단순히 물리적인 한계일 뿐입니다.”

고급 암호화는 AI Eye의 급여 수준을 넘어서므로 자유롭게 살펴보세요. 토끼굴 적절하게 회의적인 사고방식을 갖고 있는 당신 자신입니다.

인터넷은 99% 가짜로 향하고 있다

초지능이 인류에게 실존적 위협을 가하기 오래 전에, 우리 모두는 AI가 만들어낸 헛소리의 홍수에 빠져들 가능성이 높습니다.

스포츠 일러스트레이티드(Sports Illustrated)가 인수했습니다. 이번 주에는 AI가 만든 가짜 작가가 작성한 AI 작성 기사를 게시한 혐의로 기소되었습니다. 한 소식통은 Futurism에 “아무리 그렇지 않다고 말하더라도 콘텐츠는 완전히 AI로 생성되었습니다”라고 말했습니다.

이에 맞춰 Sports Illustrated는 “초기 조사”를 실시한 결과 해당 콘텐츠가 AI에서 생성되지 않은 것으로 확인되었다고 밝혔습니다. 하지만 어쨌든 계약자를 비난하고 가짜 작성자의 프로필을 삭제했습니다.

다른 곳에서는 SEO 마케팅 대행사인 Content Growth의 설립자인 Jake Ward가 AI 콘텐츠를 사용하여 Google의 알고리즘을 조작했다고 자랑스럽게 주장하여 X에 소란을 일으켰습니다.

그의 3단계 프로세스에는 경쟁사의 사이트맵을 내보내고, 해당 URL을 기사 제목으로 변환한 다음, AI를 사용하여 헤드라인을 기반으로 1,800개의 기사를 생성하는 작업이 포함되었습니다. 그는 지난 18개월 동안 총 트래픽에서 360만 조회수를 훔쳤다고 주장합니다.

그의 주장을 의심할 만한 충분한 이유가 있습니다. Ward는 마케팅 분야에서 일하고 있으며 스레드는 분명히 18개월 전에는 존재하지 않았던 그의 AI 기사 생성 사이트인 Byword를 홍보하고 있었습니다. 일부 사용자는 Google이 그 이후로 플래그가 지정됨 문제의 페이지.

그러나 품질이 낮은 AI로 작성된 스팸의 양이 검색 결과를 방해하기 시작하는 것으로 판단하면 유사한 전략이 점점 더 널리 퍼지고 있습니다. Newsguard도 확인했습니다. 566 AI가 작성한 정크 기사를 주로 전달하는 뉴스 사이트만 있습니다.

일부 사용자들은 이제 다음과 같이 중얼거립니다. 죽은 인터넷 이론 실현될 수도 있습니다. 그것은 대부분의 인터넷이 가짜이고 봇에 의해 작성되고 알고리즘에 의해 조작된다는 몇 년 전의 음모론입니다.

당시에는 미친 사람들의 소란으로 치부됐지만 이후 유로폴도 “2026년에는 온라인 콘텐츠의 최대 90%가 합성으로 생성될 수 있다”고 추정하는 보고서를 내놨다.

남자들은 AI로 여자친구와 헤어진다 메시지. AI 팝스타 같은 안나 인디애나 쓰레기 노래를 쏟아내고 있습니다.

그리고 X에서는 Bitcoiner Tuur Demeester가 “이상하고 중립적인 특성을 지닌 지나치게 장황한 응답”이라고 설명하는 것을 전달하기 위해 이상한 AI 응답자가 스레드에 점점 더 많이 등장합니다. 데이터 과학자 Jeremy Howard도 이를 발견했으며 두 사람 모두 봇이 계정에 대한 신뢰성을 구축하여 일종의 해킹을 보다 효과적으로 수행하거나 향후 정치적 문제를 인위적으로 만들려고 노력할 가능성이 있다고 믿습니다.

특히 지난 달 사이버 보안 기관의 분석에 따르면 이는 합리적인 가설처럼 보입니다. 인터넷 2.0 조사 결과 861,000개 계정 중 거의 80%가 AI 봇일 가능성이 있는 것으로 나타났습니다.

그리고 봇이 민주주의를 훼손하고 있다는 증거도 있습니다. 이스라엘-가자 전쟁의 첫 이틀 동안 사회 위협 정보 회사인 Cyabra는 5억 3100만 명이 본 가짜 계정에서 312,000개의 친 하마스 게시물을 탐지했습니다.

추정했다 봇은 하마스 옹호 게시물 4개 중 1개를 작성했습니다.그리고 나중에 5번째 칼럼 분석에 따르면 응답의 85%가 하마스가 인질을 얼마나 친절하게 대하는지, 그리고 10월 7일 학살이 왜 정당한지에 대한 선전을 강화하려는 다른 봇이었다는 사실이 밝혀졌습니다.

시아브라
Cyabra는 48시간 만에 가짜 계정에서 하마스 프로 게시물 312,000개를 탐지했습니다(Cyabra).

Grok 분석 버튼

X는 곧 “Grok 분석 버튼” 구독자 여러분을 위해. Grok은 GPT-4만큼 정교하지는 않지만 X의 실시간 최신 데이터에 액세스하여 최신 주제와 정서를 분석할 수 있습니다. 또한 사용자가 코드뿐만 아니라 콘텐츠를 분석하고 생성하는 데 도움이 될 수 있으며 유머로 전환할 수 있는 “재미” 모드가 있습니다.

암호화폐 사용자에게 실시간 데이터는 Grok이 그날 또는 지난 시간 동안 상위 10개의 인기 토큰을 찾는 등의 작업을 수행할 수 있음을 의미합니다. 하지만, 디파이 연구 블로거 Ignas는 일부 봇이 인기 있는 토큰 거래 구매를 가로채는 반면 다른 봇은 인기를 끌기 위해 인조 잔디를 지원하여 토큰을 지원할 가능성이 있다고 걱정합니다.

“X는 토큰 발견에 이미 중요하며 Grok 출시로 인해 CT 에코 버블이 더욱 악화될 수 있습니다.”라고 그는 말했습니다.

올 킬러 노 필러 AI 뉴스

— 이더리움 공동 창립자 Vitalik Buterin은 AI가 지구의 정점 종으로서 인간을 대신할 수 있다고 우려하지만, 뇌/컴퓨터 인터페이스를 사용하면 인간이 계속해서 루프를 유지할 수 있다고 낙관적으로 믿습니다.

— Microsoft는 Copilot 도구를 업그레이드하여 GPT-4 터보이를 통해 성능이 향상되고 사용자가 최대 300페이지까지 입력할 수 있습니다.

— 아마존은 자체적으로 발표했습니다. 버전 Copilot의 Q라고 불립니다.

— Bing은 사용자에게 다음과 같이 말했습니다. 호주는 존재하지 않는다 오랫동안 진행된 Reddit 개그로 인해 새의 존재가 농담 Birds Are n’t Real 캠페인으로 인해 논쟁의 여지가 있다고 생각합니다.

– 헤지 펀드 브릿지워터 머신러닝과 AI를 활용해 글로벌 경제 이벤트를 분석·예측하고 고객 자금에 투자하는 펀드를 내년에 출시할 예정이다. 현재까지 AI 기반 펀드는 실망스러운 수익을 거두었습니다.

— 한 대학 연구원 그룹이 AI에게 Amazon 웹사이트를 탐색하고 물건을 구매하도록 가르쳤습니다. MM-Navigator에게 예산이 주어졌고 다음과 같이 지시되었습니다. 우유 거품기를 사다.

거품을 내다
이제 기술은 너무 발전하여 AI가 Amazon에서 우유 거품기를 구입할 수 있습니다. (freethink.com)

이번주의 멍청한 AI 사진들

이번 주 소셜 미디어 트렌드는 AI 사진을 만든 다음 AI에게 더 그렇게 만들도록 지시하는 것이었습니다. 따라서 다음 사진에서는 라면 한 그릇이 더 매워질 수도 있고, 거위가 점점 더 우스꽝스러워질 수도 있습니다.


RELATED ARTICLES

회신을 남겨주세요

귀하의 의견을 입력하십시오!
여기에 이름을 입력하십시오.

가장 인기 있는