모델 알고리즘

  • #3252996
    ㅅㅈㄴㅈㄴㅈ 223.***.190.190 1135

    KDD ICML 쪽 논문을 보면
    JMLR이나 ann. of stat. JASA쪽 머신 러닝 알고리즘에 비해 수학적으로 증명이 너무 빈약하다는 생각이 들던데요 머신러닝 연구자분들은 어떻게 생각하나요?

    IT회사같은 현업쪽은 오히려 CS쪽 접근을 선호할것 같다는 느낌이 있긴하지만요

    세상에 정답은 없는것이고 그냥 다양한 고수분들의 의견을 듣고 싶어서요

    • CS 73.***.166.92

      맞아요 머신러닝 쪽 많은 논문들이 empirical 한 측면이 더 강합니다. 해보니까 되던데? 가 많아요
      제 의견에는 그렇기 때문에 빨리 발전했다고 생각합니다. 뭐하나 소개할때마다 “theoretical justification 이 부족하니 리젝” 이런 식의 커뮤니티였으면 이렇게 빨리 발전 안했을거에요.
      하지만 분야가 발전하는 만큼 최근들어서는 theoretical background가 강조되고 있습니다. 리젝된 페이퍼들 리뷰들 보시면 얘기 많이나와요.

      NIPS 2017 에서 이와 관련된 재밌는 일이 있었습니다.
      https://medium.com/@Synced/lecun-vs-rahimi-has-machine-learning-become-alchemy-21cb1557920d

    • B 184.***.210.6

      머신러닝에 무슨 이론이 필요하나요?
      이미 컨트롤 씨어리나 에스티메이션 씨어리에 이론이 되있던걸

      대용량데이타를 빨리처리하는 컴퓨터계산 능력향상으로 생긴 분야일뿐인데.

    • ㄴㅈㄴㅈㅅ 223.***.63.201

      CS님 좋은 조언 링크 감사합니다 !!
      B님 그건 2000년중반
      딥러닝의 시작일때 이야기 아닌가요

    • Bn 73.***.80.167

      딥러닝 논문이 나오기 시작한 2015년부터 벌어진 일입니다. 딥러닝이라는게 nonconvex고 black box라 이론쪽으로 결과를 내기가 어려우니까 필드 자체가 해보니 잘 되더라 수준으로 논문이 쏟아져 나오기 시작했어요.

      그리고 컨퍼 장수에 제한이 있다보니 간략하게밖에 수학적으로 증명을 하고 넘어갈 수밖에 없는 측면도 있어요. 저널도 같이쓰는 통계쪽에 가까운 애들은 저널 페이퍼를 좀 더 수학적으로 공들여서 쓰더라고요.

    • Bn 73.***.80.167

      ㅋㅋㅋ 그리고 딥러닝의 시작은 2010년대 중반이죠. 그전엔ml은 커녕 유사과학 취급이나 받았었어요.

    • 평가절하 184.***.6.171

      관련된 얘기가 좀 나오는 재밌는 talk이예요. 이미 보신 분도 있겠죠. Usenix Security keynote인데, 하바드 대학의 James Mickens가 스피커입니다. 이 친구는 예전에 MSR에 있었을거예요.

Cancel