Two Contrasting Views of South Korea Ferry Accident – 10 min Animation
- Two Contrasting Views of the South Korea Ferry Disaster (English version)
- 당신은 어떤 관점으로 세월호사고를 볼 것인가? (Korean version)
- 韩国世越号渡轮事故的两种相反的观点: 您会选择哪个? (Chinese version)
Epilogue by Thomas Jun
I am originally from South Korea, but have been living in the UK since 2003. I have been doing research and teaching on safety, design, human and system stuff. Upon hearing the traumatic news about the South Korea ferry accident on 16th April 2014, I felt frustrated, helpless, angry and guilty as many of us did.
Prior to this ferry accident, whenever I heard news about accidents (big or small) in South Korea, one part of me said that I should write something about system safety to the South Korean society. However, the other part of me said that one article would not make any difference. My priority was in dealing with my daily academic busyness, instead of doing something potentially ‘useful’ for many.
On the way to my office several days after the South Korea ferry accident, I felt somebody is telling me not to delay the long-awaited task of writing articles about safety. I was fortunate to be able to have the following three opinion articles published in DongA Ilbo (written in Korean).
- Systems Safety and South Korea Ferry Disaster, 9th May 2014
- Heart Change Rather Than Rule Change, 3rd June 2014
- Our Misunderstanding on Safety Measures, 20th August 2014
I was even more fortunate to be able to work on the South Korea Ferry Accident Analysis with Professor Dohyung Kee (a visiting scholar from Keimyung Univ) and two colleagues of mine, Dr Patrick Waterson and Professor Roger Haslam. We presented the findings at the international safety symposium in Copenhagen in August 2014 and many internationally-renowned safety experts gave very sincere advice and heartfelt support.
After this symposium, the idea of producing an animated documentary was hatched up. I had the privilege of having known Man Park (a very passionate animated film director) for 3-4 years. I saw a very interesting animated documentary which he produced for his PhD here in Loughborough University. We agreed to commit our time to making an animated documentary. We wanted to do what we can do best to ease our guilt to the victims and hopefully contribute to endeavours to bring good out of bad.
The rest is history. It was not an easy eight month journey though. Our self-imposed deadlines were missed several times and we experienced the same tension between workload and economic pressure (as described in the animation) during this project.
From script writing, story boarding, modelling, rigging, mock narrative recording, rendering, sound effect producing to countless editing, it was a painstaking, iterative journey with great ‘fun’. Thankfully, we received a small amount of funding from the Enterprise Office, Loughborough University, just enough to get the project started. Without good will, dedication, persistence and commitment of three team members (Man Park, ChangGuen Park and SungJun Kim) and support from my academic colleagues (Patrick Waterson and Roger Haslam), it would have not been possible to make this animation. So I would like to give credit to them and appreciate the huge effort and sacrifice they made. I hope to believe that it was a well worthwhile effort.
June 2015
Gyuchan Thomas Jun
Praise received so far.
“Excellent animation. Puts all the pieces together nicely. Fastest introduction to the “new look” in system safety you will find. ”
Richard Cook, Professor of healthcare system safety, KTH Royal Institute of Technology, Sweden
“Your animation makes the point brilliantly. Next step: Getting people to view it, digest it, and change behaviour.”
Don Norman, Professor Emeritus of both psychology and cognitive science, One of the world’s most influential designers, USA
“I have watched the video with much pleasure! What a great piece of work. It is this kind of medium that we need more of in order to get the message through to those who would never read the books on this stuff.”
Sidney Dekker, Professor, Best-selling author on human factors & safety, Australia
“It’s very, very good. Clear, brilliantly produced and thought-provoking.”
Steve Evans, BBC’s Seoul Correspondent, South Korea
“This is so thought-provoking, learning in complex safety-critical environments, blame v just culture.”
Martin Bromley, Founder and Chair of Clinical Human Factors Group, UK
Journey from Research, Script, Storyboard to Animation
References
Kee, D., Jun, G.T., Waterson, P., Haslam, R., 2017, A systemic analysis of South Korea Sewol ferry accident – Striking a balance between learning and accountability, Applied Ergonomics, 59(B), pp504-516, https://doi.org/10.1016/j.apergo.2016.07.014
Cook, R., Woods, D. & Miller, C. 1998, A Tale of Two Stories: Contrasting Views of Patient Safety – Report from a Workshop on Assembling the Scientific Basis for Progress on Patient Safety, National Patient Safety Foundation at the AMA.
Dekker, S. 2012, Just culture: balancing safety and accountability, 2nd edn, Ashgate, Farnham.
Hollnagel, E. 2014, Safety-I and Safety-II: The past and Future of Safety Management, Ashgate, Farnham.
Rasmussen, J., Svedung, I., 2000, Proactive Risk Management in a Dynamic Society, Swedish Rescue Service Agency
Reason, J.T. 2008, The human contribution: unsafe acts, accidents and heroic recoveries, Ashgate, Aldershot.
Script – English
Title : Two Contrasting Views of the South Korea Ferry Accident – Which Would You Choose?
Caption:
This short animated documentary is based on the South Korea Ferry Sewol accident. The intention is not to reconstruct what actually happened, or to analyse why it happened. It simply asks us to think about how we can best learn from it, taking account of systems safety research over the past thirty years.
===============================================================
On the morning of 16 April 2014, the South Korea Ferry, Sewol, carrying four hundred seventy six people, sank on her way to Je-ju Island from In-cheon. In all, two hundred ninety five passengers died in the accident and nine bodies are still missing. Among the dead, two hundred forty six were secondary school students on their school trip.
There are two contrasting ways of thinking about this accident, which would you choose?
The first viewpoint is to see the causes of this accident in a simple, linear manner. There is no doubt that this accident was a man-made disaster: The captain and crew members were irresponsible; the shipping company owner was greedy; the marine operating inspector was negligent; port staff were careless, government officials were corrupt; and the coast guard was incompetent.
How well does this viewpoint explain the accident? The hindsight bias effect is a well-known research finding, relevant to accident analysis. It makes us oversimplify the complex situation confronting the people concerned and unfairly blame them.
The second viewpoint is to look at what influenced human behaviour. The accidents are considered not as a simple linear story, but a multi-faceted story with complex interactions between deep-rooted structural factors.
For example, the captain and crew members of the ferry loaded almost twice the legal limit of the cargo and did not secure them properly. They had to drain the ballast water excessively in order to hide their overloading, which reduced the ferry’s ability to bring balance back after quick turn. The inexperienced third mate took a turn too quickly and the ferry leaned to one side and capsized. There were several factors influencing the captain’s and crew members’ behaviour. The shipping operation company, Chong-hae-jin Marine, had a corporate culture placing high priority on maximising profit rather than passenger safety. The company had financial pressures, due to an illegal flow of money to the company owner’s family members and an affiliated religious group. The coastal liner business in South Korea was very small and loosely regulated. Culture in South Korea society at large was overflowing with a “quick-quick” approach.
Factors affecting human behaviour change dynamically. For example the captain worked under at least two competing pressures working for maximum profit and a desire for minimum workload. The captain chose a short, but risky route to make up for two hour delayed departure. At the same time the captain chose to take rest in order to work with minimum workload leaving only a six month experienced third mate alone in a steering house while sailing through the risky route.
The captain, in the past, worked under these pressures all the time and managed many successful sailings without any accident. The captain’s behaviour started moving towards the safety boundary. He had been considered as a very competent and experienced captain because he worked for the maximum profit with minimum workload. Before the accident, Chong-hae-jin Marine received several awards for logistics development perhaps thanks to the captain’s such behaviour. However, the captain did not realise how close he was to the safety boundary and continued to work for even higher profit with even lesser workload. Eventually the captain ended up crossing the boundary and momentary alignment with other weaknesses of the whole system led to the accident.
There were so many people involved in this particular accident including ferry crew members, staff and management of Chong-hae-jin Marine, marine operation inspector, Vessel Traffic Service Centre operators, rescue team members, coast guard, and officials in Korean Register of Shipping, In-cheon Port Administration and government ministries. All of them were crossing back and forth around the safety boundary and momentary alignment and combination of these factors led to this accident.
How would you look at human in the system?
The first viewpoint is that humans are simply a potential threat to safety in the complex system and often root causes of accidents.
However, the second viewpoint is that humans are heroes in the complex system who can keep it safe. In the modern society, many systems have become increasingly complex and there are many scenarios happening which we cannot predict. The scenarios that safety procedures or regulations can cover are very limited compared to a broad range of unpredictable scenarios we are facing every day. Only humans can adapt and appropriately respond to any unpredictable scenarios to prevent any potential disaster. It might be a real paradox, but humans could be hazards but are heroes who are essential to keep the system safe.
What differences would your viewpoint make in our response to the accident?
The first viewpoint, looking at humans as hazards, will focus on finding individuals accountable for and to be blamed. When blame culture is dominant, people tend to be very defensive and focus on avoiding their responsibilities. Accident investigation is very likely to end when people accountable are identified, blamed and punished. When new people are put in place for the same positions, they will eventually be under the same pressures for the maximum profit. Besides, a human’s desire for the minimum workload will inevitably lead to the similar accidents again and again.
In South Korea, there were five big accidents which led to more than 100 deaths over the past 20 years: Seo-hae Ferry accident in 1993 leading to 292 deaths; Dae-gu subway gas explosion in 1995 leading to 101 deaths; Sam-pung Department store collapse in 1995 leading to 502 deaths, Dae-gu subway fire accident in 2003 leading to 192 and the Sewol ferry accident in 2014 leading to 295 death. Another accident might be just waiting to happen.
When looking at the accident in the second viewpoint, we acknowledge that accidents happen due to multiple and complex factors. We still need to make some individuals accountable for the accidents when appropriate, but know that only responding to calls for accountability is not likely to lead to justice or to improved safety. The focus of the accident investigation is not just to identify people to be punished, but to understand economic, social and political factors influencing human behaviour. We acknowledge the positive contribution human is making and try to learn lessons by doing research on how human successfully manage complex dynamic situations.
We are living in the era of fierce global competition. We have to face the fact that no organisation is just in the business of being safe. Every business can survive only when keeping it profitable as well as safe. It might be inevitable that organisations will operate near the safety boundary.
Only when we take into account the fierce competition the businesses are facing, complex mechanisms that accidents take place and the contributions humans can make, meaningful lessons can be learned and systems safety can be improved.
Ultimately, our safety in future relies on how we view the accident and what actions we take thereafter.
Script – Korean
제목: 당신은 어떤 관점으로 세월호 사고를 볼 것인가?
자막:
이 짧은 애니메이션 다큐멘터리는 세월호 사고의 진실을 규명하기 위한 것이 아니며, 어떠한 정치적 관점도 지향하지 않는다. 단지 지난 30여 년 동안 진행된 안전과 관련한 여러 학문들의 연구 결과를 고찰하여, 우리가 어떻게 세월호 사고를 이해하고 대응해야 할지 같이 생각해보고자 만들어 졌다.
=========================================================
2014년 4월 16일, 476명의 승객을 태우고 인천에서 제주로 향하던 세월호가 침몰하는 사고가 발생했다. 이로 인한 사망은 295명, 실종 9명, 사망자 중 246명은 수학여행을 가는 고등학교 학생들이었다.
이 사고를 보는 두 개의 상반된 관점이 있다면, 당신은 어떤 관점으로 보고 있는가?
첫 번째 관점은 단순한 흑백 논리로 세월호 사고의 원인을 바라는 보는 것이다. 이 사고는 선장과 선원들의 무책임과 규정 위반, 청해 운수 회장의 탐욕, 운항 관리사의 업무 소홀, 항만청 직원의 태만, 공무원들의 봐주기, 해경의 무능으로 인해 발생된 인재였다.
과연 이러한 관점이 세월호 사고를 이해하는데 얼마나 도움을 줄까?
심리학자의 이론 중 ‘사후 과잉 확신 편견‘ 이란 것이 있다. 이 편견은 인간이 사고와 사고 관련자들이 처해 있는 복잡한 상황을 매우 단순하게 보고, 인간의 잘못된 행동만을 부각해서 보게 만든다.
두번째 관점은 인간의 행동을 유발한 배경에 더 관심을 가지고 보는 것이다. 다시 말해, 미숙한 상황 판단으로 발생한 잘못된 행동의 배경에 어떠한 요소들이 관련되어 있는지를 심층적으로 조사하는 것이다.
예를 들면 세월호 선원은 허용 화물 적재량의 2배 가까운 과적 화물을 제대로 묶지 않은 채 선적했다. 과적 사실을 숨기기 위하여 배의 평형수를 무리하게 뺐으며, 이로 인해 배 자체의 복원력이 상실되었다. 항해경험이 부족한 3등 항해사는 조류가 빠른 상황에서 실수로 배를 급선회 하였고, 결국 무리하게 회전하는 과정에서 화물이 한 쪽으로 쏠리며 전복하였다. 이러한 선장과 선원의 잘못된 행동의 배후에는 청해진 해운의 모태인 종교 단체로의 자금 유출에 따른 열악한 재무 상태로 오는 부담감이 있었다. 또한 승객의 안전보다 경제적 이익을 최우선 하는 기업 풍토가 있었다. 뿐만 아니라, 우리나라 연안 여객선업의 영세성과 우리 사회의 빨리 빨리 문화가 있었다.
인간의 잘못된 행동 이면에 존재하는 이러한 여러 요소들은 상황에 따라 시시각각 변화하고 있다. 예를 들어 선장의 경우는 회사로부터 오는 경제적인 압박과 본인 업무량을 줄이고 싶어하는 상반되는 욕구가 지속적으로 변화하면서 작용하고 있었다. 선장은 회사의 좋지 않은 재무 상태로 오는 부담감으로, 짙은 안개로 2시간 여 지연된 출발 시간을 보상하기 위하여 기존 항로 대신, 조류가 빠른 ‘맹골 수로’를 지나는 단거리 항로를 선택하였다. 또한 자신의 업무량을 줄이면서 운항을 하기 위하여 위험한 맹골 수로를 지날 때 입사한 지 6개월 밖에 되지 않는 3등 항해사에 조타실을 맡기고, 선장실에서 휴식을 취하고 있었다.
이런 식으로 오랫동안 운항했어도 지금까지 사고로 연결 되지 않았기에, 시간이 지나면서 선장의 행동은 안전과 사고를 가르는 경계선까지 이르게 된다. 이 경계선을 지나기 바로 전까지는 선장은 최소의 비용과 업무량으로 안전 운항을 하는 유능하고 노련한 직원이었다. 어쩌면 그래서 청해진 해운이 과거에 물류 발전대상을 받았는지도 모른다. 하지만 선장은 경계선이 가까이 있는 줄을 모르고 더 적은 비용과 업무량으로 운항을 하는 도중 경계선을 넘게 되고, 다른 요인들과 복합적으로 작용하여 결국 세월호 같은 사고로 이어진 것이다.
세월호 사고에서는 선장 외에도 선원, 운항관리사, 해경구조대원, 해상 교통관제 센터, 청해진 해운, 인천 항만청, 한국선급, 한국 해운조합, 해양경찰, 중앙 재난 안전대책본부, 해양수산부, 안전행정부 등 일선 선원에서부터 정부부처까지 많은 사고 관련 당사자가 있다. 이들도 선장이 처했던 것처럼 안전경계선을 넘나들고 있다가, 어느 순간 이들의 복합적 작용이 공통적으로 결합되어 세월호 사고가 발생한 것이다.
그렇다면 당신은 이런 복잡한 시스템에서 인간의 역할을 어떤 관점으로 볼 것인가?
첫 번째 흑백 논리의 관점으로 보면 시스템 속에 있는 인간은 안전을 위협하는 치명적인 약점이며 사고의 근본 원인이다.
하지만 두 번째 관점에서 인간은 전체 시스템의 안전을 유지하는 매우 중요한 역할을 한다. 현대 사회에서 각종 시스템은 (서로 연결되어) 점점 복잡해졌으며, 그로 인해 인간이 예상할 수 없는 수많은 상황들이 발생한다. 인간이 만든 안전 절차나 규제가 다룰 수 있는 영역은, 이러한 다양한 상황에서 대처해야 하는 영역에 비해 매우 제한적이다. 그러나 인간만이 상황에 따라 유연성을 발휘할 수 있기에, 예상치 못한 사고 상황에 적절히 대응하여 안전을 유지할 수가 있다. 역설적이겠지만, 결국 인간은 전체 시스템의 약점이 될 수 있지만, 반면에 전체 시스템을 안전하게 유지해 주는 매우 중요한 역할을 한다.
그렇다면 이런 상반된 관점에 따른 우리의 대응은 어떻게 다를까?
첫 번째 관점에서는 인간의 잘못된 행위만을 강조하며, 사고 관련 책임자를 찾는 것에 집중하게 된다. 책임자만을 일방적으로 탓하게 될 때, 사고 관련자들은 책임을 회피하기 위해서 방어체계를 세우는데 급급하게 된다. 사고 조사는 책임자를 색출하여 처벌하는 것만이 목적이 되어, 근원적인 안전 개선으로 연결되지 않고 종료되기 쉽다. 새로운 담당자는 같은 상황에서 업무를 맡게 될 때 장기적으로 같은 경제적, 사회적 압박을 받는다. 또한, 업무량을 최소화하려는 인간의 욕구가 더해져, 과거와 같은 비슷한 사고는 또 발생할 것이다.
1993년 서해 훼리호 사건으로 292명 사망, 1995년 대구 지하철 가스 폭발사고로 101명 사망, 1995년 서울 삼풍 백화점 붕괴사고로 502명 사망, 2003년 대구 지하철 화재사고로 192명 사망, 2014년 세월호 침몰사고로 294명이 사망하는 등 지난20년 동안 100명 이상이 사망하는 대형사고가 5건이나 발생하였고, 어쩌면 또 다른 사고가 기다리고 있을지 모른다.
두 번째 관점으로 사고를 볼 때, 우리는 사고가 인간 행위의 이면에 존재하는 여러 요인들이 복합적으로 작용하여 발생한다는 점을 인정한다. 처벌이 필요한 경우에는 처벌을 해야 하지만, 단순히 책임자 색출과 처벌에만 집중하지 않는다. 즉, 사고 조사는 사회적, 경제적 요소들이 어떻게 인간에 복합적으로 영향을 끼쳤는지에 대해, 심도 있는 분석을 통해 근원적인 대응책을 찾는데 집중한다. 이러한 관점에서 인간의 긍정적인 역할을 인정하고, 변화무쌍하고 복잡한 상황에서 인간이 어떻게 사고 없이 성공적으로 대응하는지에 대한 장기적인 연구가 필요하다.
우리는 세계화 시대의 치열한 경쟁 속에 살아가고 있다. 어떠한 비즈니스도 안전 자체가 비즈니스의 목적이 될 수 없다. 모든 비즈니스가 안전을 유지하면서도 비용을 줄이고, 수익을 높이는 두 가지 목적을 다 달성해야 생존할 수 가 있는 것이다. 따라서 성공적인 비즈니스 활동은 어쩔 수 없이 안전과 사고 경계선 근처에서 성립될 수 밖에 없다.
우리가 사고로부터 진정한 교훈을 배우려면, 이러한 비즈니스가 처해 있는 긴장 상태, 사고가 발생하는 복잡한 메커니즘, 그리고 시시각각으로 변하는 상황 속에서 인간의 역할에 대한 올바른 관점을 가져야 한다. 결국 당신이 지금 어떤 관점으로 세월호 사고를 보고 대응하는 지에 따라 우리 사회의 미래가 달라 질 수 있다.
Script – Chinese
标题：韩国渡轮事故的两种截然不同的观点 – 你会选择哪个？
说明：
这个简短的动画纪录片是根据韩国渡轮Sewol事故。我们的目的不是要重建到底发生了什么，还是要分析为什么会发生。它只是要求我们去思考我们如何能够最好地从中吸取教训，考虑到系统的安全性研究在过去的三十年。
======================================================================
在2014年4月16日，韩国渡轮，Sewol日上午，搭载476人，倒在她的方式来济菊岛从在金先生。总之，295名乘客在事故中死亡，九具尸体仍下落不明。死者中，246人中学的学生在他们的学校旅行。
有两种截然不同的思考这起事故的方式，你会选择哪个？
第一个观点是看到一个简单的，线性的方式这起事故的原因。毫无疑问，这起事故是人祸：船长和船员是不负责任的;船运公司的老板是贪婪的;海洋工作督察是疏忽;工作人员端口是不小心，政府官员腐败的;和海岸警卫队是不称职的。
这在多大程度上观点解释事故？事后聪明偏见的影响是一个著名的研究成果，相关的事故分析。它使我们过分简化的复杂局势面临的有关人士和不公平的指责他们。
第二个观点是看什么影响人的行为。该事故被认为不是一个简单的线性故事，而是一个多面的故事根深蒂固的结构性因素之间复杂的相互作用。
例如，渡轮的船长和船员装载的货物几乎两倍于法定上限，并没有获得他们正常。他们不得不过分地排出压载水，以隐藏自己的超载，从而减少后快速旋转，使天平回轮渡的能力。没有经验的三副转了个弯太快，轮渡靠在一边，倾覆。有是影响机长和机组人员的行为几个因素。航运经营公司，崇海金海洋，有一个企业文化的高度优先的利润最大化，而不是乘客的安全。该公司有财务压力，因非法流动的钱给公司老板的家人和附属宗教群体。在韩国沿海班轮业务是非常小的，松散的监管。文化在韩国整个社会中充斥着一种“快快”的做法
动态地影响人类行为变化的因素。例如在至少两个相互竞争的压力，船长曾工作的最大利润和最小工作量的愿望。机长选择了一个很短，但有风险的途径来弥补2小时延迟起飞。同时，队长选择了休息，才能以最小的工作量只留下六个月的工作经历独三副在转向内部，同时通过高风险的路线航行。
船长，在过去，在这些压力下工作的所有时间和管理许多成功的班次没有任何意外。船长的行为开始走向安全边界。他被认为是一个非常能干和经验丰富的船长，因为他曾在最小的工作量最大的利润。事故发生前，崇海金海洋获得多个奖项的物流发展也许是由于船长的这种行为。然而，机长没有意识到他有多接近的安全边界，并持续了更高的利润，甚至与工作负载较轻的工作。最终，队长结束了穿越导致事故发生的整个系统的其他弱点边界和瞬时调整。
有这么多的人参与了这一特殊的事故，包括渡船船员，工作人员和崇海金管理海洋，海上作业检查，船舶交通管理中心运营商，救援队队员，海岸警卫队和官员在韩国船级社，在金先生港口管理局和政府部门。所有这些正在穿越来回围绕这些因素导致了这起事故的安全边界和瞬间定位和组合。
你将如何看待人类在系统中？
第一个观点是，人类只是在复杂的系统和事故往往根本原因的潜在威胁安全。
但是，第二个观点是，人类是英雄，在复杂的系统谁又能保证它的安全。在现代社会中，许多系统变得越来越复杂，有很多情况下发生的，我们无法预测。该安全程序或规则可以覆盖场景是非常有限的比较广泛的，我们都面临着每一天不可预知的情况。只有人类可以适应和任何不可预知的情况下作出适当的反应，以防止任何潜在的灾难。这可能是一个真正的悖论，但人类可能的危害，而且是英雄谁是必不可少的，以保持系统的安全。
有什么区别将在我们应对事故的观点做什么呢？
第一个观点，在人类面色危害，将目光集中在个人的责任，并受到指责。当怪文化为主导，人们往往很防御性和集中回避自己的责任。事故调查很可能结束，当人们的责任确定后，指责和惩罚。当放在适当的位置相同的位置新人们，他们最终将成为下的利润最大化同样的压力。此外，人的欲望的最低工作量将不可避免地导致类似事故连连。
在韩国，有导致100多人死亡在过去20年五大意外：西区海渡轮事故，1993年导致292人死亡;在1995年大亚区地铁瓦斯爆炸事故，导致101人死亡;萨姆 – 仁丰百货崩溃在1995年导致502人死亡，金大中区地铁火灾事故在2003年导致192和Sewol渡船事故发生在2014年导致295死亡。另一宗意外可能只是等待发生。
当看到在第二种观点的事故，我们承认，事故发生是由于多重复杂因素。我们仍然需要进行一些个人对事故适当的时候，但要知道，只有响应呼吁问责是不是可能导致司法公正，以提高安全性。事故调查的重点不仅是识别人受到惩罚，而是要了解经济，社会和政治因素影响人的行为。我们认识到积极贡献的人正在和尝试做研究人类如何成功地管理复杂的动态情况，以吸取经验教训。
我们生活在全球激烈竞争的时代。我们不得不面对的事实是无组织只是在暂时安全的业务。保持它的盈利，以及安全的，当每个企业才能生存下去。这可能是不可避免的，企业将安全边界附近进行操作。
只有当我们考虑到企业面临的事故发生，捐款人可以，复杂的机制的激烈竞争，有意义的教训可以吸取和系统安全性的提高。
最终，我们在未来的安全依赖于我们如何看待事故，我们随后采取什么样的行动。
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License
systemsthinkinglab.wordpress.com 