근데 이건 꼭 그 문제만이 아닌데, 인공지능에 대해 나름 조금은 공부해 본 입장에서 말하자면, 저건 상당히 잘 구현된 쪽에 속합니다.

제 의견으로는 Neural에서 오는 판단 자체가 자율성이 높은지 낮은지는 여기서 지엽적인 문제고요. 기본적으로 안전에 관한 fail safe trigger가 동작을 안 한다는 게 문제인 것 같네요. 최근 인공지능 연구의 트렌드는 단순 통계모방 알고리듬보다는 인간 보호를 위해서 안전지향적 trigger nest를 어떻게 짜느냐가 문제인데, 아예 그런 hardwire가 없었다면 더 문제겠고요 (이걸 헬적화라고 봅니다). 소스를 안 보고 하는 얘기라 누구 말이 맞을 지는 다들 모르겠지만, 자율차가 저렇게 위반한 사례는 말씀하신 rule-based 판정의 적용 시 혹은 적용 여부에 있어서 일종의 엄격한 criteria가 없었다는 방증이 아닐까 생각되네요. 그냥 쉽게 생각해서 자율모드를 끄고 사람이 집에 돌아가던 중이라고 보는게 맘은 편하네요.

그럴 가능성을 높게 보고 있기는 하지만, 오히려 저런 혼잡상황에서 안전을 위해 유연하게 원칙을 적용한 게 아닌가싶기도 하네요. 제 생각으로는 오히려 그런 안전 지향적인 알고리즘이 잘 짜여진듯(차선 간격이나 흐름 분석 등)합니다.