前往主要內容

CSV 重複資料處理指南

如何安全刪除 CSV 中的重複資料

開啟重複資料刪除

先定義什麼才算重複。完全相同的紀錄可比對全部欄位;同一訂單或客戶只留一筆時,選擇一個以上的鍵值欄位。相同鍵值會保留輸入順序中的第一筆。

發布日期:

更新日期:

適用工具: 移除重複

範例:每個訂單編號只留一筆

系統匯出時 O-102 重複出現。若要保留最新資料,應先依更新時間降冪排序,再刪除重複資料。

  • 判斷欄位:訂單編號
  • 區分英文大小寫
  • 保留第一次出現的資料

包含重複資料的 CSV

若只選訂單編號,其他欄位即使不同也會視為同一訂單。

orders.csv
訂單編號,客戶,金額_TWD,狀態
O-101,星河商行,12800,已付款
O-102,海風材料,8400,已付款
O-102,海風材料,8400,已付款
O-103,青田食品,6200,待處理

刪除重複後的 CSV

第一筆 O-102 保留下來。原有 4 筆資料,其中 3 筆保留,1 筆因重複而排除。

orders_deduplicated.csv
訂單編號,客戶,金額_TWD,狀態
O-101,星河商行,12800,已付款
O-102,海風材料,8400,已付款
O-103,青田食品,6200,待處理

刪除重複資料的步驟

確認結果前不要覆寫原始檔。

  1. 開啟「刪除重複資料」,選擇 50MiB 以下的 CSV。
  2. 確認編碼、分隔符號、標題列與預覽。
  3. 選擇比對全部欄位或一個以上鍵值欄位。
  4. 設定是否區分大小寫並執行。
  5. 下載前,確認每筆原始資料都已保留或因重複而排除。
移除重複

確認留下的資料

先確認每筆原始資料都有去向,再抽樣查看留下的是不是正確版本。

  • 每筆原始資料都已保留或因重複而排除
  • 相同鍵值保留第一筆
  • 空值與空值視為相同
  • 不會自動清除前後空白或轉換全形半形

常見錯誤

這項功能不會做模糊比對或自動整理名稱。

  • 只用客戶名稱而誤刪不同客戶
  • 忽略 O-102 與 o-102 的大小寫設定
  • 尾端空白造成鍵值不同
  • 想留最新資料卻沒有先排序

何時適合使用

用來減少重複紀錄;依條件保留資料應用篩選,多檔上下堆疊則用垂直合併。

  • 適合:穩定的訂單編號或客戶 ID
  • 適合:完全相同資料
  • 先排序:控制要保留的版本
  • 不適合:名稱或地址的模糊歸戶