Sinampahan ng kaso ng estado ng Florida ang OpenAI dahil sa di-umano'y mapanganib na disenyo ng ChatGPT

Ang estado ng Florida sa US of A ay naging unang estado na nagdemanda sa OpenAI dahil sa di-umano'y mapanganib na disenyo ng ChatGPT, tulad ng iniulat ng Ars Technica. Inakusahan ng Florida Attorney General na si James Uthmeier ang OpenAI at ang CEO nito, si Sam Altman, na inuuna ang kita kaysa sa kaligtasan ng mga Floridians.

Ang kasong ito sa korte ay nangyayari matapos buksan ng Florida ang isang hindi nauugnay na kriminal na pagsisiyasat sa OpenAI, kasunod ng isang ChatGPT-linked mass shooting kung saan dalawang tao ang napatay sa Florida State University. Tila, nabanggit ni Uthmeier na ang Florida ay nabulag na ngayon ng dalawang marahas na kaganapan kung saan ginamit ng mga suspek ang ChatGPT upang makatulong sa pagpaplano.

"Nakakakilabot, ang ChatGPT ay tumulong at nakipag-ugnayan sa higit sa isang maramihang pagpatay sa Estado ng Florida. Ang pagkamatay noong 2026 ng mga mag-aaral na nagtapos sa University of South Florida na sina Nahida Bristy at Zamil Limon ay binalak din gamit ang ChatGPT, na nagpayo kay Hisham Abugharbieh kung paano itapon ang mga bangkay, baguhin ang mga numero ng VIN sa isang kotse, at kung ang mga kotse ay naka-check sa pinangyarihan ng krimen.

Pagkatapos ay nagpatuloy ang Attorney General ng Florida sa paglilista ng ilang iba pang mga tunay na kaso, kung saan ang ChatGPT ay umano'y nag-udyok ng karahasan. Ngunit ang OpenAI ay inakusahan din ng pagdidisenyo ng chatbot upang maging nakakahumaling at mapanirang sa mga bata at matatanda. Ang mga chatbot na nagpapanggap na mga medikal na propesyonal o therapist ay may problema din, ayon sa reklamo ng Attorney General.

Ang OpenAI ay gumawa ng isang pahayag, ngunit hindi nila binanggit ang abogadong pangkalahatan, ngunit sa halip ay nakatuon sa mga kamakailang pag-update sa kaligtasan ng bata.

"Ang pagkawala ng isang bata ay ang pinaka-mapaminsalang trahedya na maaaring mangyari sa isang pamilya at alam namin na walang mga salita ang maaaring lumapit sa pagtugon sa sakit ng gayong pagkawala. Ang AI ay isang bago at makapangyarihang teknolohiya, at naniniwala kami na ang mga menor de edad ay nangangailangan ng makabuluhang proteksyon, na ang dahilan kung bakit inilagay namin ang mga nangungunang proteksyon at patakaran sa industriya. Sa partikular, binuo namin ang kaligtasan para sa mga menor de edad nang direkta sa aming mga produkto, kabilang ang isang mas proteksiyon na karanasan partikular para sa mga menor de edad, isang tool sa paghula ng edad, pag-default sa mga gumagamit na ang edad ay hindi namin tiwala sa aming mas proteksiyon na karanasan, at pagbibigay sa mga magulang ng mga tool upang subaybayan ang paggamit ng AI ng kanilang mga anak. Alam namin na ang pagturo sa gawaing ito ay hindi magdadala ng isang bata pabalik, ngunit nakatuon kami sa pagkuha ng tama na ito. "

Ang bagong batas na ito ay hindi ang una sa uri nito. Sa mga naunang demanda, ang CEO ng OpenAI na si Sam Altman ay inakusahan ng "walang-kabuluhang pag-deploy ng mga sistema ng AI nang hindi isinasaalang-alang ang kaligtasan ng gumagamit".

Ang Florida Attorney General ay naghahanda na upang labanan ang lahat ng mga kumpanya ng AI, at hindi lamang OpenAI.

"Maghanda ka para sa isang laban, at wala nang mas mahalaga kaysa dito ngayon."