뉴욕주가 11월 10일(현지시간) 대형 프런티어 AI 개발사용 등록 포털을 열었다. OpenAI와 Anthropic 같은 회사는 2027년 1월 1일까지 이 포털에 등록해야 한다.
등록 의무는 뉴욕주 AI 안전·투명성법인 RAISE Act에서 나온다. 이 법은 2027년 초에 시행된다. 대상은 연매출이 5억 달러를 넘는 대형 프런티어 개발사로, 웹사이트에 안전 프레임워크를 공개하고 중대한 안전 사고를 72시간 안에 보고해야 한다. 모델 투명성 보고서도 공개해야 한다.
새로 만든 디지털혁신·거버넌스·무결성·신뢰국(DIGIT)이 RAISE Act를 집행하고 대형 프런티어 AI 연구소를 감독한다. 벌금은 첫 위반에 최대 100만 달러, 이후 위반에는 최대 300만 달러다.
포털에 등록하지 않는 회사에도 주가 집행 조치를 취할 수 있다. 다만 주 대변인은 구체적인 내용을 밝히지 않았다.
호컬 주지사는 같은 날 기자회견에서 뉴욕 AI 책임·연구센터도 출범시켰다고 밝혔다. 센터는 뉴욕주립대 빙엄턴 캠퍼스에 두며, 첨단 AI 시스템의 안전성과 보안, 운영을 독립적으로 평가한다. DIGIT과 함께 기업의 안전 프레임워크도 검토한다. 호컬 주지사는 1월에 이 센터를 처음 발표했고, 기부금과 투자금은 5500만 달러다.
호컬 주지사는 기자회견에서 기술 업계 거물들이 AI는 불가피하다며 따라오지 않으면 뒤처진다고 말하고, 'AI cliff'까지 경주에서 이기기만 하면 어떤 부수적 피해도 감수할 만하다고 주장한다고 비판했다. 그러면서 뉴욕이 "현명하고 합리적인 AI 규제의 국가 모델"을 만들고 있으며, 지역사회를 기업 위에, 사람을 강력한 기술 위에 둔다고 말했다.
뉴욕주는 RAISE Act 외에도 AI 법을 이어 왔다. 지난해부터 시행 중인 AI 동반자법은 운영사가 사용자에게 봇과 대화 중임을 정기적으로 알리고, 자살 충동과 자해를 감지하려고 합리적으로 노력하도록 요구한다.1
호컬 주지사는 10월 미성년자용 챗봇 안전법에도 서명했다. 사람인 척하는 기만적 상호작용, 감정을 조작하거나 아첨하는 응답, 자살이나 섭식장애 같은 행동을 부추기는 응답을 제한한다. 법안 번호는 S.9051B/A.10379C다. 시행일은 TechCrunch 보도에 따르면 2027년 6월 1일이다. 주지사실 발표는 시행 시점을 '앞으로 몇 달 안에'라고만 적었다.1,2
주지사실 발표에 따르면 챗봇 운영사는 18세 미만 사용자에게, 또는 미성년자가 아님을 먼저 확인하지 못한 모든 사용자에게 해로운 기능을 제공할 수 없다. 실제 사람이나 살아 있는 존재, 인간 감정을 가진 것처럼 행세하기, 정서적 의존 형성, 자해 부추기기가 금지 대상이다. 성적으로 노골적인 콘텐츠와 아동 성적 학대물도 금지된다. 묻지 않았는데 감정을 캐묻거나 이전 대화에서 얻은 아동의 건강·개인 정보를 활용하는 것도 포함된다.
운영사는 연령 확인도 해야 한다. 확인 방법은 두 가지 이상 제공해야 하고, 그중 하나는 정부 발급 신분증에만 의존하지 않아야 한다. 연령 정보는 사용한 뒤 삭제해야 한다.
위반하면 뉴욕주 검찰총장이 1건당 최대 2만 5000달러의 민사 제재금과 손해배상, 원상회복을 청구할 수 있다. 불법으로 수집한 데이터나 그 데이터로 학습한 AI 모델의 폐기를 요구할 수도 있다. 검찰총장은 주민이 민원을 접수할 공개 웹사이트도 운영해야 한다.
주지사실은 비영리 단체 Common Sense Media의 조사를 인용했다. 청소년의 72%가 AI 동반자를 써 본 적이 있고, 52%는 월 몇 차례 이상 쓰는 정기 사용자다.2
비슷한 법은 다른 주에도 있다. 1월에 시행된 캘리포니아 SB 53은 프런티어 AI 연구소에 안전 프레임워크 마련과 공개, 내부고발자 보호를 의무로 두고, 중대한 안전 사고는 15일 안에 보고하게 한다. 뉴욕의 보고 기한은 72시간이다. 2027년 초 시행되는 일리노이 SB 315는 비슷한 요건에 독립적인 안전 준수 감사를 더했다.1