Book

Chapter 2. CUDA Memory Management

2. CUDA Memory Management Most of the application’s performance will be bottlecked by memory-related constraints GPU RAM BW : 900GB/s (DDR3 ?) NV Visual Profiler Global memory is a staging area where all of the date gets copied from CPU memory. Global Memory(device memory) is visible to all of the threads in the kernel and also visible to CPu. Coalesced vs. uncoalesced global memory access coalesced global memory access : Sequential memory access is adjacent Warp Warp is a unit of thread scheduling/execution in SMs.

Chapter 1. Introduction to CUDA Programming

1. Introduction to CUDA Programming CPU Architecture is optimized for low latency accessing while GPU architecture is optimized for data parallel throughput compution CPU hides latency of data by frequently stroring used data in caches and utilize the temporal locality In CUDA, the execution unit is a warp not a thread. Context switching is happens between the warps and not threads. GPU has lots of registers, all the thread context switching information is already present in the registers.

(책) 리얼하다

리얼하다 조승연 Lunch or Happy Hour 뭔가 약속을 잡아야 할 때 점심 시간 혹은 저녁 업무 종료 후 저녁 식사 시간 전(Happy Hour, 5-7pm) 때 약속을 주로 잡는다고. 그래야 별도 개인 시간 낭비를 안하고, 저녁의 경우 필요하면 저녁 약속 을 핑계로 이야기를 끊을 수 있어서 주로 이렇게 한다고 한다. 이메일로 할 수 있는 걸 전화로 하지 않고, 전화로 할 수 있는 걸 만나서 하지 않는다. 뉴욕의 사업자는 대부분 이민자 출신이라 길거리에서 생존을 배워와서 ‘실행해서 결과를 도출해 보기 전까지는 무엇도 알 수 없다’고 생각.

사무력

중요한 일은 생각을 기반으로 함. 기계적으로 대응 불가 소통이 따름. 조직의 일은 혼자 할 수 없으므로 결정이 수반되야 함. 길이 하나가 아닌 까닭 실행이 따름. 결정만으로 결과가 오는 것이 아님 52시간법은 일하는 시간에 제약이 가해지는 것이다. 충분한 시간을 투자해서 결과를 얻어내던 방식에서 달라져야 한다. 직장 생활에서 반드시 익혀야 할 기술은 ‘생각을 정리하여 말이나 글로 표현하는 기술’ 일 때문에 일을 하는 것이 아니라 성과를 위해 일을 하는 것이다. WBS(Work Breakdown Structure)

함께 자라기

p12 학교 학습 vs. 야생 학습 야생 학습은 대부분 자료에 한정이 없다. 야생 학습은 대부분 명확한 평가가 없다. 야생 학습은 대부분 정답이 없다. 야생 학습은 대부분 목표가 불분명하고 바뀌기도 한다. 학습의 본질은 야생 학습에 더 가깝다고 생각. 현실 세계에서는 야생 학습이 더 많이 필요하다고 봅니다. p23 구조화된 인터뷰(특별히 구조화된 행동중심적 인터뷰를 권함)와 실제 작업을 해보도록 하는 작업 샘플 테스트, 그리고 가능하다면 실제 업무를 주고 시험적으로 짧은 기간 동안 일을 해보게 하는 것 등을 권합니다.

(책) The nature of Software Development

제품 책임자는 해결해야 할 문제가 무엇인지 제시합니다. 그리고 팀은 주어진 문제를 어떻게 해결할 지 결정하죠. 진정한 자율성이 있다면 팀의 일을 중복으로 확인할 필요가 없습니다. 그들이 결정하고 그들이 만들고 조직 모두가 결과를 확인합니다. 모두가 배우는 것이죠 개발팀은 1-2주에 해당하는 개발 주기를 거칠 때마다 제품 책임자와 함께 무엇을 완료해야 하는지 상의해야 합니다. 잘 작동하는 상태로 배포할 수 있는 피처들이 얼마나 되는지 구분합니다. 이렇게 팀이 일을 끝낸 이후 “작동하는 소프트웨어를 보여주세요"라고 요구하면 됩니다.

(책) 실리콘밸리를 그리다

P40 업무 지시 -> 일을 맡아달라고 부탁 P44 제조업에서는 정보 공유의 중요성이 높지 않다. 설계 -> 생산 분리 SW에서는 설계가 모든 상세 내역을 알 수 없고, 지속적인 변경 사항에 따른 변화를 모두 확인할 수 없다. 실리콘밸리에는 기획자라는 역할이 없다. 각자가 자신의 역할을 책임진다. 엔지니어 문화에서는 끊임없이 진화를 가정하고 시작한다. 아웃소싱은 설계 변경을 빠른 시간 내 반영하기 어려워 많이 사용하지 않는다. 우리나라 기업 문화는 기술집약 제조업에 적합하다. Speed - Quality - Feature triangle

(책) 1등의 습관 Smarter, Faster, Better

Motivation P39 자신이나 다른 사람에게 동기를 부여하고 싶은 사람이라면 반드시 알아두어야 할 교훈이다. 결정권을 행사할 수 있는 일을 찾아내면 행동하려는 의지를 쉽게 불어일으킬 수 있기 때문이다. 직접 결정할 수 있다는 생각이 우리를 흥분시킨다. Teams P71 구글 인력 자원국의 기본적인 목표는 구글 직원들이 직장에서의 삶을 조금이라도 더 행복하고 생산적으로 꾸려 가도록 유도하는 것이었다 P72 산소 프로젝트 -> 훌륭한 관리자란? 훌륭한 코치이고, 권한을 위임하고, 시시콜콜한 문제를 따지지 않으며, 부하 직원의 성공과 행복에 관심을 드러내고, 결과를 중시하고, 정보를 경청하고 공유하며, 경력 개발을 지원하고, 분명한 비전과 전략을 직원들에게 제시하며, 해당 비즈니스에 대한 중요한 핵심 능력을 지니고 있다.

(책) 최고의 팀은 무엇이 다른가

팀원이 안전하다고 느끼는가? 구글 * 지위에 연연하지 않음. * 누가 책임질 지 고민하지 않음 * 어려운 문제를 풀기 위해 모든 집단을 토론시킴 미사일리어 * 미국의 미사일기지 근무 군인들의 만족도가 크게 떨어짐 * 우리가 이어져 있나? * 우리에게 미래가 있나? * 우리는 안전한가? 피드백 * 기대치가 높다 * 당신이면 기대를 충분히 달성할 수 있을 있을 거라고 믿는다 경청하라. 또 경청하라 * 높은 자리에 오를수록 먼저 약점을 드러내라 * 불편한 목소리도 포용 * 구체적인 미래상 제시 * 공치사는 과장될수록 좋다 * 서로 부딪칠 수 있는 공간을 마련하라 * 각자의 목소리를 내게 하라.

(책) 리모트

p15 사람들에게 제대로 집중해서 일을 하고자 할 때 어디로 갈거냐고 물었을 때 “사무실”이라고 답하는 사람은 별로 없다.혹은 “다른 직원들이 출근하기 전 아침 일찍” 또는 “다른 직원들이 퇴근하고 난 후의 사무실” 또는 “주말에 아무도 없는 사무실” p18 출퇴근 시간 1.5시간/하루 * 5일 * 4 * 11 month = 330 시간.400시간은 베이스캠프를 개발자들이 프로그래밍하는데 걸린 시간 p22 엄청난 기술이 필요한 것은 아니다. 하지만 과거의 유산을 내려놓고 미래로 가는 배에 올라 탈 굳은 의지를 갖추어야만 한다.