Amazon-Web-Services

將數據從 RDS 只讀副本遷移到 Redshift

  • January 4, 2019

我正在嘗試創建一個 AWS DMS(數據遷移服務)任務來將數據從執行 Postgres 的 RDS 只讀副本遷移到 Redshift 集群,但是當需要遷移一些表時我的任務總是失敗(通常是那些更頻繁地使用失敗)。

我從這個只讀副本創建了一個快照,並且能夠成功地將其遷移到 Redshift 集群,所以我認為問題與數據庫本身無關。

請注意,我使用只讀副本作為源,因為我的主數據庫與 Redshift 集群位於不同的區域。

我做錯了什麼?

我發現了問題所在:由於我將 DMS 與只讀副本一起使用,如果我有一個長時間執行的查詢將數據傳輸到 Redshift,則在更新只讀副本時,此查詢將被取消。

所以我將:max_standby_archive_delay和的值更改max_standby_streaming_ delay為 15 分鐘(900000 毫秒),這樣 Postgres 將等待長達 15 分鐘,然後再將更新應用到只讀副本,這足以讓我將數據從只讀副本傳輸到 Redshift。

請注意,無法從只讀副本創建持續數據傳輸。它要麼是滿載,要麼什麼都沒有。

參考文件:https ://www.postgresql.org/docs/9.0/hot-standby.html

引用自:https://serverfault.com/questions/947505