[컴퓨터 시스템] 19. 분산 메모리와 가속기는 한 머신 밖에서 무엇을 바꿀까 18편까지는 한 머신 안에서 여러 코어와 스레드를 어떻게 다루는지 보았습니다. 마지막으로는 메모리를 공유하지 않는 여러 머신이나 특수 하드웨어가 등장할 때 계산 모델이 어떻게 달라지는지 보겠습니다.이번 글은 MPI, GPU, cloud, MapReduce를 키워드 나열로 끝내지 않고, '데이터와 실행 자원이 멀어질수록 무엇이 달라지는가'라는 하나의 관점으로 묶습니다. 먼저 짚고 갈 용어 distributed memory: 여러 노드가 각자 자기 메모리를 갖고 메시지로 협력하는 구조MPI: 프로세스들이 메시지를 주고받으며 협력하도록 돕는 대표 모델accelerator: 특정 계산을 더..