記一次IT系統故障處理及復盤

0 評論 5000 瀏覽 7 收藏 5 分鐘

最近有個項目遇到了一次重大故障,引起甲方負責人的高度重視,并直接@我們的Leader,從故障發生到基本解決,我們花了兩天時間。本文是關于這次故障的復盤和總結。

最近有個項目遇到了一次重大故障,引起甲方負責人的高度重視,并直接@我們的Leader,從故障發生到基本解決,我們花了兩天時間。

之后項目組還花了近兩個小時進行了復盤及總結:

(1)故障發生的原因。

(2)故障解決辦法。

(3)如何防止故障再次發生:

  1. 加強預警機制,快速發現問題;
  2. 發生警告通知項目組內成員,而不只是其中一兩個成員;
  3. 重視預警,收到預警需在2小時內解決。

(4)如果再次發生此類問題,應如何解決。

通過復盤會議,大家達成了一致共識并討論應對方案,改進后續的工作。但還有一個問題,引起了我的思考:

這類故障并不是第一次發生,為什么之前沒有得到很好的解決?

作為項目的主要負責人,之前發生此類故障,我是如何跟進處理的?

通知后臺程序員,程序員一般進行重啟或開啟多個線程,等上一天,基本可以解決問題。

然后大家各忙各的,并沒有正式進行復盤故障原因及防止故障發生的辦法。

那為什么沒有進行復盤呢?

(1)針對此類問題,如果需要根治,可能涉及到重構系統。大家并沒有想到簡單并快速的解決辦法,因此治本的辦法就一直擱置。

(2)考慮到這類問題并未引起嚴重的后果,能用簡單的辦法應付就應付,以減少維護成本。

事實證明:簡單應付的辦法,并不能減少維護成本,程序員的工作量看似減少了,但是維護的工作直接傳遞到我身上,系統不完美的地方引起的小問題,導致我跟甲方溝通工作并不少,占用了我一部分的時間

(3)作為項目負責人,我沒有向上級求助,申請資源協助。

我突然意識到要及時向上級求助這一點很重要。

主要是因為我發現Leader很重視這次故障,全程跟蹤并督促相關人員。(之前也發生過類似的故障,但并未深入跟進)

Leader做全程跟蹤的原因之一是:在跟程序員交流問題時,發現這類故障我們居然束手無策,除了等別無他策。

這意味著:以后再次發生這類故障,我們依然沒有辦法解決……于是Leader做了全程重點跟進,跟督促技術負責人進行故障復盤。

之前也發生過類似故障,但是我并沒有積極調動Leader和技術負責人這兩部分資源,沒有向他們傳遞問題的嚴重性,也沒有引起他們的重視。

而我發現問題沒有完美處理方案時,也沒有把遇到這類問題的無奈與無助及時地反饋出來。而是采取短視的方式處理問題,并回避根本性問題。

總結:

  1. 對于故障問題,就應該進行復盤并建立預防機制。不能因為怕麻煩或者擔心項目組成員情緒問題而放棄,否則引發的工作量將積壓到自己身上。
  2. IT系統遇到嚴重故障且沒有好的解決辦法時,應第一時間求助Leader,必要時候需要通過Leader調用技術資源來解決問題。(特別是關于涉及改動程序的解決方案,一定要請技術專家一起會診并討論解決方案)
  3. 對常見問題進行流程設計,讓提問人第一時間知道如何處理,甚至在沒有維護人員的情況下也能自行處理。

 

本文由 @璇璣魚 原創發布于人人都是產品經理,未經許可,禁止轉載。

題圖來自 Unsplash,基于CC0協議。

更多精彩內容,請關注人人都是產品經理微信公眾號或下載App
評論
評論請登錄
  1. 目前還沒評論,等你發揮!