>이렇게 해선 더 발전못하죠
발전한다는 것이 범용적인 발전에 국한해서 말씀하시는 것 같은데 각 분야에 customized된 모델을 여러번의 시행착오를 통해 만드는 것도 발전입니다. 인간의 뇌처럼 범용이 아닐뿐이죠. limited scope 이긴 하지만 자동화를 할 수 있다는 점에서 발전의 의미가 있다고 봅니다. (예: 수억 장의 사진 중 고양이 사진 분류)
한계가 드러난다는 것은 두고 볼 일입니다. 아직 한계인지 아닌지도 모르니까요. 인간의 기술과 과학은 그런식으로 나아갔죠. 처음에 사과가 떨어지는걸 보고 계속 추론해서 만유인력을 개념화 한것이지, 범용적인 만유인력을 먼저 추상화 하고 거기서 세부적인 사과와 지구의 중력 관계를 밝히지 않았지요.
물론 그렇다고 학회 발표 딥러닝 논문이 모두 의미가 있다는 것도 아닙니다. 지적하신 대로, 실험적 논문이 많고, 실험적 논문의 특성상 가치가 떨어지는 것도 보여집니다. 그래도 이게 발전이 없는가를 뜻하는건 아니겠죠. 발전은 하되, 방법이 님의 생각과 다를 뿐입니다.