nohyd의 블로그

영국 일간 파이낸셜타임스(FT)는 9월22일(현지시간) 글로벌 인공지능(AI) 모델 안전성 검증을 주도하는 영국 AI안전연구소(AISI)에서는 다수의 직원이 스트레스로 병가를 내고 상담을 받는 것으로 알려졌다. 촉박한 테스트 일정과 빠르게 고도화되는 기술에 대한 불안감이 직원들의 번아웃(탈진)을 초래한 것으로 분석됐다.앤트로픽, 오픈AI, 구글 딥마인드 등 다른 AI 개발 기업 직원들도 비슷한 문제를 호소하는데, 특히 많은 최고급 연구원이 자신이 개발하는 AI가 '대중에게 안전하지 않다'는 생각 때문에 회사를 떠나고 있다.딥마인드의 한 직원은 AI 안전 연구가 '불가능한 임무'처럼 느껴져 번아웃 위험이 크다고 전했다. 그는 "기술이 어떻게 쓰일지 모른다는 정신적 리스크가 크다. 통제력을 잃었다는 느낌과..

2023년 세전·세후 지니계수 개선율연합뉴스가 9월20일 OECD 소득분배통계를 분석한 결과, 가장 최신 통계인 2023년 기준 한국의 세전(시장소득)·세후(가처분소득) 지니계수 개선율은 17.6%로 통계가 발표된 OECD 29개국 중 28위였다고 보도했다.29개국 평균(34.4%)의 절반 수준으로, 한국보다 낮은 국가는 코스타리카(12.1%) 뿐이었다. 비회원국이지만 OECD가 함께 발표한 불가리아·크로아티아·루마니아를 포함하더라도 32개국 중 31위였다.지니계수는 소득불평등을 나타내는 경제 지표로 '0'이면 완전 평등, '1'이면 완전 불평등이라는 의미다.개선율은 세금을 떼기 전 시장소득 지니계수와 조세·연금·복지 등 소득재분배 정책을 거친 가처분소득 지니계수를 비교해 산출한다.한국은 세전과 세후 순..

미 텍사스A&M대와 신시내티대 연구진은 지난 9퉐8일 사용자가 잘못된 답변을 유도할 때 AI가 어떻게 반응하는지에 대해 조사한 연구 결과를 공개했다. 명백하게 틀린 주장을 최대 25차례까지 반복하자, 일부 최신 AI 모델의 경우 100개 문제 중 97개에서 한 번 이상 사용자의 잘못된 주장에 동조했다.거짓 정보를 만들어내는 ‘할루시네이션(Hallucination·환각)’ 논란을 겪던 생성형 인공지능(AI)에서 ‘시코펀시(Sycophancy·아첨과 영합)’라는 새로운 문제가 부각되고 있다. AI가 맞는 답을 내놨는데도 사용자가 틀린 주장을 거듭하면 처음 몇 번은 반박하다 결국 “당신 말이 맞다”며 입장을 뒤집는 것이다.최신 AI는 검색·추론 능력이 개선되면서 답변의 정확도도 높아졌다. 하지만 사용자가 억지..