chatGPT 무섭다

Takina 184.***.15.4

답을 검증할 능력이 안되면 제대로 사용할 수 없다는 점이 있죠. Technical한 질문도 faulty premise로 질문하면 소설을 씁니다. 그 내용을 이미 아는 사람이 아니면 검증을 못하고, 그 내용을 그냥 사용하면 여러 가지 재미있거나 위험한 결과가 나옵니다.

코딩의 경우도 얘가 짜준걸 그냥 바로 제품에 넣을 수 있나요? 말도 안되는 코드가 나오는 예도 많이 보는데. 참고 자료로는 괜찮습니다만, 역시 사용자가 검증할 능력이 안되면 소용이 없습니다. 프로세스의 변화를 가져올 수는 있지만, 아직 사람이 루프에서 필요없게 만들지는 못하는 수준입니다.

100% 검증이 중요하지 않은 용도에는 좋겠죠. 100점 맞아야만 하는 시험이 아니면 시험 보게 해도 되고. 문제은행식 시험이라면 100점도 쉽죠.