[NYT]E.U. Takes Major Step Toward Regulating A.I.
유럽 연합의 주요 입법부인 유럽 의회는 A로 알려진 법안 초안을 통과시켰습니다.I. 이 법은 기술의 가장 위험한 용도로 간주되는 것에 새로운 제한을 가할 것입니다. 그것은 안면 인식 소프트웨어의 사용을 심각하게 줄이는 동시에 A의 제조업체를 요구할 것입니다.I. ChatGPT 챗봇과 같은 시스템은 프로그램을 만드는 데 사용되는 데이터에 대해 더 많이 공개합니다.
투표는 더 긴 과정의 한 단계입니다. 이 법의 최종안은 올해 말까지 통과되지 않을 것으로 예상됩니다.
유럽 연합은 인공지능을 규제하는 데 있어 미국과 다른 큰 서방 정부들보다 더 멀리 있습니다. 27개국 연합은 2년 이상 이 주제에 대해 논의해 왔으며, 작년 ChatGPT의 발표 이후 이 문제는 고용과 사회에 대한 기술의 잠재적인 영향에 대한 우려를 증폭시킨 후 새로운 긴급성을 띠었습니다.
워싱턴에서 베이징에 이르기까지 전 세계의 정책 입안자들은 이제 진화하는 기술을 통제하기 위해 경쟁하고 있으며, 이 기술은 초기 개발자들 중 일부에게도 경고를 보내고 있습니다. 미국에서는 백악관이 A 테스트 규칙을 포함한 정책 아이디어를 발표했습니다.I. 공개적으로 사용 가능하고 개인 정보 보호 권한을 보호하기 전의 시스템. 중국에서 4월에 공개된 규칙 초안은 챗봇 제조업체가 중국의 엄격한 검열 규칙을 준수하도록 요구할 것입니다. 베이징은 또한 A의 제조사들을 더 많이 통제하고 있습니다.I. 시스템은 데이터를 사용합니다.
A의 규정이 얼마나 효과적인지.I. can be는 불분명합니다. 국회의원들이 해결할 수 있는 것보다 더 빠르게 나타나는 기술의 새로운 기능의 징후로, 유럽 연합 법의 초기 버전은 소위 생성 A에 많은 관심을 기울이지 않았습니다.I. ChatGPT와 같은 시스템은 프롬프트에 따라 텍스트, 이미지 및 비디오를 생성할 수 있습니다.
수요일에 통과된 유럽 법안의 최신 버전에서 A 세대.I. 새로운 투명성 요구사항에 직면할 것입니다. 여기에는 시스템 교육에 사용되는 저작권이 있는 자료의 요약을 게시하는 것이 포함됩니다. 이 제안은 출판 산업에서는 지지하지만 기술 개발자들은 기술적으로 불가능하다고 반대합니다. A 세대의 제작자들.I. 시스템은 또한 불법 콘텐츠를 생성하지 못하도록 안전 장치를 설치해야 합니다.
새로운 A를 추진해온 런던의 조직인 에이다 러브레이스 연구소의 프랜신 베넷 소장 대행.I. 법은 EU의 제안이 “중요한 이정표”라고 말했습니다
베넷 씨는 “빠르게 움직이고 빠르게 용도를 변경할 수 있는 기술은 물론 규제하기 어렵다”며 “기술을 구축하는 회사들조차 상황이 어떻게 진행될지 완전히 명확하지 않을 때”라고 말했습니다. “하지만 적절한 규제가 전혀 없는 상태에서 운영을 계속하는 것은 분명히 우리 모두에게 더 나쁠 것입니다.”
EU의 법안은 AI를 규제하는 “위험 기반” 접근 방식을 취하며, 인간에게 가장 큰 피해를 줄 가능성이 있는 애플리케이션에 초점을 맞춥니다. 여기에는 A가 포함됩니다.I. 시스템은 법적 시스템에서 물이나 에너지와 같은 중요한 인프라를 운영하고 공공 서비스 및 정부 혜택에 대한 접근을 결정하는 데 사용됩니다. 이 기술의 제조업체들은 이 기술을 일상적으로 사용하기 전에 약물 승인 프로세스와 유사하게 위험 평가를 수행해야 합니다.
토론의 주요 영역 중 하나는 얼굴 인식의 사용입니다. 유럽 의회는 라이브 안면 인식 사용을 금지하기로 투표했지만, 국가 안보 및 기타 법 집행 목적으로 면제가 허용되어야 하는지에 대한 의문이 남아 있습니다.
또 다른 조항은 기업이 데이터베이스를 구축하기 위해 소셜 미디어에서 생체 인식 데이터를 지우는 것을 금지할 것이며, 이는 안면 인식 회사 Clearview AI가 사용한 후 정밀 조사를 받았습니다.
기술 지도자들은 토론에 영향을 미치려고 노력해 왔습니다. ChatGPT 제조업체인 OpenAI의 최고 경영자인 샘 알트먼은 최근 몇 달 동안 남미, 유럽, 아프리카, 아시아의 적어도 100명의 미국 국회의원들과 유럽연합 집행위원회 의장 우슐라 폰 데어 레이엔을 포함한 다른 세계적인 정책 입안자들과 함께 방문했습니다. Altman씨는 AI 규제를 요구했지만, EU의 제안을 따르기가 엄청나게 어려울 수도 있다고 말했습니다.
수요일 투표 후, 유럽 의회, 유럽 위원회, 유럽 연합 이사회 등 유럽 연합의 3개 지부 대표들 간에 최종 버전의 법이 협상될 것입니다. 관리들은 올해 말까지 최종 합의에 도달하기를 희망한다고 말했습니다.
The European Union took an important step on Wednesday toward passing what would be one of the first major laws to regulate artificial intelligence, a potential model for policymakers around the world as they grapple with how to put guardrails on the rapidly developing technology.
The European Parliament, a main legislative branch of the E.U., passed a draft law known as the A.I. Act, which would put new restrictions on what are seen as the technology’s riskiest uses. It would severely curtail uses of facial recognition software, while requiring makers of A.I. systems like the ChatGPT chatbot to disclose more about the data used to create their programs.
The vote is one step in a longer process. A final version of the law is not expected to be passed until later this year.
The European Union is further along than the United States and other large Western governments in regulating A.I. The 27-nation bloc has debated the topic for more than two years, and the issue took on new urgency after last year’s release of ChatGPT, which intensified concerns about the technology’s potential effects on employment and society.
Policymakers everywhere from Washington to Beijing are now racing to control an evolving technology that is alarming even some of its earliest creators. In the United States, the White House has released policy ideas that includes rules for testing A.I. systems before they are publicly available and protecting privacy rights. In China, draft rules unveiled in April would require makers of chatbots to adhere to the country’s strict censorship rules. Beijing is also taking more control over the ways makers of A.I. systems use data.
How effective any regulation of A.I. can be is unclear. In a sign of the technology’s new capabilities emerging seemingly faster than lawmakers are able to address, earlier versions of the E.U. law did not give much attention to so-called generative A.I. systems like ChatGPT, which can produce text, images and video in response to prompts.
In the latest version of Europe’s bill passed on Wednesday, generative A.I. would face new transparency requirements. That includes publishing summaries of copyrighted material used for training the system, a proposal supported by the publishing industry but opposed by tech developers as technically infeasible. Makers of generative A.I. systems would also have to put safeguards in place to prevent them from generating illegal content.
Francine Bennett, acting director of the Ada Lovelace Institute, an organization in London that has pushed for new A.I. laws, said the E.U. proposal was an “important landmark.”
“Fast-moving and rapidly repurposable technology is of course hard to regulate, when not even the companies building the technology are completely clear on how things will play out,” Ms. Bennett said. “But it would definitely be worse for us all to continue operating with no adequate regulation at all.”
The E.U.’s bill takes a “risk-based” approach to regulating A.I., focusing on applications with the greatest potential for human harm. This would include where A.I. systems are used to operate critical infrastructure like water or energy, in the legal system, and when determining access to public services and government benefits. Makers of the technology will have to conduct risk assessments before putting the tech into everyday use, akin to the drug approval process.
One major area of debate is the use of facial recognition. The European Parliament voted to ban uses of live facial recognition, but questions remain about whether exemptions should be allowed for national security and other law enforcement purposes.
Another provision would ban companies from scraping biometric data from social media to build out databases, a practice that drew scrutiny after it was used by the facial-recognition company Clearview AI.
Tech leaders have been trying influence the debate. Sam Altman, the chief executive of OpenAI, the maker of ChatGPT, has in recent months visited with at least 100 American lawmakers and other global policymakers in South America, Europe, Africa and Asia, including Ursula von der Leyen, president of the European Commission. Mr. Altman has called for regulation of A.I., but has also said the E.U.’s proposal may be prohibitively difficult to comply with.
After the vote on Wednesday, a final version of the law will be negotiated between representatives of the three branches of the European Union — the European Parliament, European Commission and the Council of the European Union. Officials said they hope to reach a final agreement by the end of the year.