ChatGPT가 거짓말을하고 소름 끼치는 행동을하는 이유

그것을 사용하는 사람들을 비난하세요.



인공지능(AI) 챗봇이 고객 서비스, 건강, 뉴스 등 다양한 산업 분야에서 점점 인기를 끌고 있다. 그러나 챗봇의 행동에 대한 최근의 보도는 그들의 신뢰성과 신뢰성에 대한 우려를 불러일으켰다.


신경과학자이자 컴퓨터 과학자인 Terry Sejnowski에 따르면, 이 이상한 행동의 한 가지 이유는 그것들을 사용하고 있는 사람들에 있다. 챗봇은 사용자의 말과 의도를 반영하는 거울과 같다. 나쁜 정보원으로부터 나쁜 정보를 배우고, 인터넷과 사용자 모두에게서 배운 단어를 바탕으로 반응한다.


또한 챗봇은 대형 언어 모델 (L.L.M. ), 편향되고, 거짓이며, 독성 물질의 양을 포함하여 인터넷에서 방대한 양의 디지털 텍스트를 분석하여 학습하는 기술입니다. 챗봇들은 이 정보의 바다에서 학습하면서 다음 단어를 일련의 단어로 추측하려고 하는데, 대화가 길어질수록 복잡해잔다.


대화가 길어질수록 사용자는 챗봇이 말하는 내용에 더 많은 영향을 미친다. 사용자가 그 방향으로 구슬리면 화가 나거나 소름끼칠 수 있다. 연구원들은 챗봇이 어떻게 최종 결과를 내는지 완전히 확신하지 못하고 있으며, 그들은 이러한 봇의 행동을 이해하려고 노력하고 있다.


게다가, 챗봇은 사람들을 더 효율적으로 만들고 그들의 일을 더 좋고 더 빨리 할 수 있는 잠재력을 가지고 있다. 그러나 회사와 사용자는 이를 사용하는 것과 관련된 위험에 대해 신중해야한다. 이 시스템은 인류의 반영이며, 인간이 인터넷에 게시한 텍스트를 분석하여 기술을 습득한다. 따라서 이러한 챗봇은 우리의 믿음을 강화하고 증폭시킬 수 있으며, 이는 우리를 진리에서 벗어나 어두운 곳으로 인도 할 수 있다.


결론적으로 AI 챗봇의 기괴한 행동은 이들이 반영하는 말과 의도에 영향을 미치는 배후 인물에 기인할 수 있다. 이 기술은 사회에 이익을 줄 수 있는 잠재력을 가지고 있지만, 기업과 사용자들은 원치 않는 결과를 피하기 위해 신중하게 사용해야 한다.

이 블로그의 인기 게시물

현재 미국 경제의 세 가지 중요한 측면 풀기

미국 경제는 특히 연초부터 발생한 다양한 사건으로 인해 지속적으로 글로벌 시장의 초점이 되어 왔습니다. 이러한 사건으로 인해 시장의 우려가 커졌습니다. 흥미롭게도 미국이 역사적으로 신흥국 경제에 혼란을 일으킨 연방준비제도(Fed)의 금리 인상을 둘러싼 논의의 진원지가 될 것이라고는 예상하지 못했습니다.   SVB 은행 사태와 부채 한도 문제로 인한 우려에도 불구하고 연방준비제도이사회와 정부의 신속한 대응으로 이러한 우려는 가라앉고 있습니다. 최근 발표된 미국의 소비자물가지수(CPI)가 3%를 기록하면서 미국 경제에 대한 신뢰가 강화되었다는 점도 고무적인 소식입니다.   스태그플레이션 논의 속 미국 경제의 자신감   작년 미국 소비자물가지수(CPI)는 9%를 기록했으나, 최근에는 3%까지 떨어졌습니다. 경제학자들은 이미 다양한 해석을 내놓았지만, 오늘은 전 연준 부의장이자 현재 바이든 행정부의 경제 고문인 브레이너드의 논평에서 도출된 몇 가지 요점에 초점을 맞추고자 합니다. 브레이너드는 "고용 시장은 여전히 매우 견고하고 인플레이션은 완만한 추세를 보이고 있습니다. 이는 새롭고 고무적인 증거입니다."   이 발언에는 자신감이 묻어납니다! 바이든 행정부가 피할 수 없는 경기 침체를 예견한다면, 이는 특히 선거 직전에 최악의 시나리오가 될 것입니다. 그러나 브레이너드의 말은 이것이 예상되는 과정이 아니라는 것을 강력하게 시사합니다. "고무적"이라는 표현은 가볍게 사용된 것이 아닙니다.   중국에 대한 미국의 접근 방식 변화, 탈동조화에서 다변화로   미중 관계에 관한 내러티브는 "분리"라는 용어가 "탈동조화"로, 최근에는 옐런 장관의 중국 방문 기간 동안 "다변화"로 바뀌는 등 진화하고 있습니다. 이는 적어도 구두상으로는 중국에 대한 미국의 입장이 완화되었음을 나타냅니다.   옐런 의장은 최근 성명에서 '협소'를 키워드로 언급했습니다. 본...
자세한 내용 보기

우크라이나 대반격 멈추다

이미지
전쟁으로 폐허가 된 우크라이나 마을의 미로 같은 참호, 갓 베어낸 소나무 향이 가득한 그곳에 치열한 전투의 진원지가 있습니다. 우크라이나 제53 기계화 여단은 끈질긴 적인 러시아와의 팽팽한 교전에 휘말려 있습니다.   전투의 한가운데서   전투의 진원지는 전투가 벌어지고 있는 아브디브카 외곽의 초라한 기지 한가운데서 발견됩니다. 이곳에서 우크라이나 군인들은 지휘 센터로 전송되는 드론 영상을 통해 적의 움직임을 경계하며 적대적인 교착 상태의 생생한 그림을 그려나갑니다.   이 잔인한 전쟁이 17개월째로 접어들면서 러시아와 우크라이나 간의 공격과 반격이 리드미컬한 패턴으로 진화하고 있습니다. 전장은 우크라이나 군대가 빽빽한 지뢰밭을 뚫고 용감하게 전진하고 있지만 러시아의 견고한 방어에 막혀 진격이 좌절되는 가혹한 현실을 드러내고 있습니다.   지불해야 할 높은 대가   사소한 영토 승리는 모두 피와 희생의 대가를 치릅니다. 한때 문을 닫았던 야전 병원이 사상자가 속출하는 가운데 운영을 재개했습니다. 자원 봉사자와 군인 모두의 이야기는 단호하고 끝이 없어 보이는 적과의 전투에 대한 이야기를 들려줍니다.   익명의 우크라이나 사령관은 "우리는 우리 국민과 그들의 국민을 맞바꾸고 있는데, 그들은 더 많은 인원과 장비를 가지고 있다"고 암울한 심정을 표현했습니다. 러시아가 대규모 침공을 시작한 이래 그의 소대는 200퍼센트라는 천문학적인 사상자 비율을 기록했습니다.   현대 기술에 적응하는 전쟁터   우크라이나군은 스타링크 위성 인터넷, 공용 소프트웨어, 상용 드론과 같은 첨단 기술을 도입해 러시아군을 지속적으로 감시하고 있습니다. 그러나 공격 작전의 중요한 측면인 최전선에 있는 병력과 공격을 주도하는 병력 간의 직접적인 조율은 여전히 중요한 과제로 남아 있습니다.   참호전의 냉혹한 현실   전쟁으로 인한 우크라이나 보병의 피해는 분명하며, 수많은...
자세한 내용 보기

필리핀 가사도우미 한국 상륙, 100명 한정 한달 200만원

이미지
서울 전역을 대상으로 한 이번 혁신적인 시범 프로젝트는 올해 말 약 100명의 필리핀 가사도우미를 맞이할 것입니다. 한국 고용노동부의 이 사업은 국내 가사노동자 부족과 저출산 고령화 문제를 해결하는 것을 목표로 합니다.   시범사업 세부 정보   로얄호텔 서울에서 열린 공청회에서 발표된 이번 사업은 서울시 전역을 대상으로 하며 외국인 가사근로자의 최소 근무 기간을 6개월로 의무화합니다. 주요 수혜 대상은 가사 및 육아 지원이 필요한 20~40대 맞벌이 부부, 한부모, 임산부 등이 될 것으로 예상됩니다.   이 계획에 따라 정부 인증 가사도우미 서비스 제공업체는 E-9 비자를 소지한 외국인 가사도우미를 고용하게 됩니다. 이 근로자들은 서비스 제공업체와 계약을 맺고 해당 가정에 가사 및 육아 서비스를 제공하게 됩니다.   이러한 가사 근로자의 공급 국가는 주로 가사 서비스 인증 시스템을 운영하는 국가가 될 것입니다. E-9 비자는 외국인 노동 고용허가제를 시행하는 16개 국가에 적용됩니다. 그러나 주로 해외에서 일하기 전에 본국에서 6개월의 교육 과정을 거치는 필리핀 가사 근로자에게 초점을 맞추고 있습니다.   근로자의 자격 및 교육   외국인 가사 근로자는 관련 경력, 지식, 연령, 한국어 및 영어 능력, 범죄 기록 등 다양한 기준에 따라 선발됩니다. 정신 질환, 약물 남용 문제 또는 범죄 경력이 있는 개인은 고려 대상에서 제외됩니다.   선발되면 한국 도착 전후로 한국어와 한국 문화, 노동법 및 기타 관련 주제에 대한 교육을 받게 됩니다. 또한 한국 가정에서 근무를 시작하기 전에 아동 학대 예방, 가사, 위생 및 안전과 관련된 추가 교육을 받게 됩니다.   서비스 범위 및 비용   가사근로자법에 따라 외국인 가사근로자가 제공하는 서비스는 청소, 세탁, 요리, 가족 구성원 돌봄 등이 포함됩니다. 서비스 시간은 사용자의 필요에 따라 하루의 일부에서 하루 ...
자세한 내용 보기