[NYT]AI Needs an International Watchdog, OpenAI Leaders Say
A의 위험을 규제하기 위해서입니다.I. 시스템즈에는 원자력의 평화적 사용을 촉진하는 국제원자력기구와 유사한 국제 감시기구가 있어야 합니다. OpenAI의 설립자인 그렉 브로크먼과 일리아 소츠케버, 그리고 최고 경영자인 샘 알트먼은 월요일 회사 웹사이트에 올린 메모에서 이렇게 썼습니다.
“존재 위험의 가능성을 고려할 때, 우리는 반응적일 수 없습니다,”라고 그들은 썼습니다.
중요한 이유: 강력한 A에 대한 우려.I. 시스템이 성장하고 있습니다.Altman 씨는 5월 16일 의회에 출석하여 의원들에게 인공지능을 규제해 줄 것을 간청했습니다. 의회 지도자들은 A의 위협에 대한 우려를 공유했습니다.I. 잘못된 정보 및 개인 정보 침해의 확산을 포함하여 포즈를 취할 수 있습니다.
“저는 이 기술이 잘못되면 상당히 잘못될 수 있다고 생각합니다. 그리고 우리는 그것에 대해 목소리를 내고 싶습니다.”라고 Altman 씨는 상원 소위원회 위원들 앞에서 증언했습니다.
지난 3월 일론 머스크 테슬라와 트위터 최고경영자(CEO)를 비롯한 1,000여 명의 기술 리더와 연구자들이 최첨단 A 개발 중단을 요구했습니다.I. 시스템은 공개 서한에서 도구가 “사회와 인류에 대한 심각한 위험”을 제시했다고 경고했습니다
그들의 최근 노트에서 OpenAI 지도자들은 “향후 10년 안에 A가 될 수 있습니다.I. 시스템은 대부분의 영역에서 전문가 기술 수준을 초과하며 오늘날의 대기업 못지않은 생산적인 활동을 수행할 것입니다.”
배경: 기술 대기업들은 빠르게 성장하는 시장에서 우위를 차지하기 위해 경쟁하고 있습니다.최신 A.I. 도구는 인터넷의 경제성을 뒤집고 오늘날의 거대 기술 기업을 낡은 기업으로 만들고 업계의 차세대 강자로 만들 수 있습니다.
인공지능이 인간의 추론에 부합하고 일자리를 파괴할 가능성에 대한 우려가 높아지는 가운데, 기술 회사들은 인공지능에 수십억 달러를 지출했습니다. 골드만 삭스는 최근 A를 추정했습니다.I. 3억 개의 정규직 일자리를 자동화에 노출시킬 수 있습니다.
버즈피드는 방금 레시피 추천을 제공하는 챗봇을 소개했습니다.
다음 내용: 의회는 이를 따라가기 위해 노력하고 있습니다.지난주 청문회에서 코네티컷 주 민주당 의원이자 상원 위원장인 리처드 블루멘탈 상원의원은 의회가 신기술을 따라가지 못했다고 인정했습니다. 그는 청문회가 인공지능의 잠재력에 대한 시리즈 중 첫 번째이며 결국 인공지능을 위한 “규칙을 작성”했다고 덧붙였습니다.
“우리의 목표는 과거의 실수를 방지하기 위해 새로운 기술을 이해하고 책임을 지는 것입니다.”라고 그가 말했습니다.
그러나 수년간 당파적 다툼과 기술 산업의 격렬한 로비로 인해 사생활, 언론 및 안전 규칙을 강화하기 위한 수십 개의 법안이 지연되었습니다.
The leaders of OpenAI, the artificial intelligence research lab that developed the chatbot ChatGPT, have called for regulation of “superintelligent” A.I. technology, saying it “will be more powerful than other technologies humanity has had to contend with in the past.”
To regulate the risks of A.I. systems, there should be an international watchdog, similar to the International Atomic Energy Agency, the organization that promotes the peaceful use of nuclear energy, OpenAI’s founders, Greg Brockman and Ilya Sutskever, and its chief executive, Sam Altman, wrote in a note posted Monday on the company’s website.
“Given the possibility of existential risk, we can’t just be reactive,” they wrote.
Why It Matters: Concerns over powerful A.I. systems are growing.
Mr. Altman appeared before Congress on May 16 to implore lawmakers to regulate artificial intelligence. Congressional leaders shared their worries about the threats that A.I. could pose, including the spread of misinformation and privacy violations.
“I think if this technology goes wrong, it can go quite wrong. And we want to be vocal about that,” Mr. Altman said in his testimony before members of a Senate subcommittee.
In March, more than 1,000 technology leaders and researchers, including Elon Musk, the chief executive of Tesla and Twitter, called for a moratorium on the development of the most advanced A.I. systems, warning in an open letter that the tools presented “profound risks to society and humanity.”
In their latest note, the OpenAI leaders said that “it’s conceivable that within the next 10 years, A.I. systems will exceed expert skill level in most domains, and carry out as much productive activity as one of today’s largest corporations.”
Background: Tech giants are competing for dominance in a fast-growing market.
The latest A.I. tools could upend the economics of the internet, turning today’s tech giants into has-beens and creating the industry’s next powerhouses.
Tech companies have spent billions of dollars on A.I., amid the rising concerns about its potential to match human reasoning and destroy jobs. Goldman Sachs estimated recently that A.I. could expose 300 million full-time jobs to automation.
BuzzFeed just introduced a chatbot that offers recipe recommendations.
What’s Next: Congress is trying to keep up.
At last week’s hearing, Senator Richard Blumenthal, Democrat of Connecticut and chairman of the Senate panel, acknowledged that Congress had failed to keep up with new technologies. He added that the hearing was the first in a series about the potential of A.I. and to eventually “write the rules” for it.
“Our goal is to demystify and hold accountable those new technologies to avoid some of the mistakes of the past,” he said.
But over the years, partisan squabbles and intense lobbying by the tech industry have stalled dozens of bills intended to strengthen privacy, speech and safety rules.