brcm2708: remove linux 4.4 support
[openwrt/staging/yousong.git] / target / linux / brcm2708 / patches-4.4 / 0442-drm-vc4-Add-DSI1-driver.patch
diff --git a/target/linux/brcm2708/patches-4.4/0442-drm-vc4-Add-DSI1-driver.patch b/target/linux/brcm2708/patches-4.4/0442-drm-vc4-Add-DSI1-driver.patch
deleted file mode 100644 (file)
index a0003a5..0000000
+++ /dev/null
@@ -1,1914 +0,0 @@
-From fe5b388ac8cacd61ca01ff9a89f60af401fffee9 Mon Sep 17 00:00:00 2001
-From: Eric Anholt <eric@anholt.net>
-Date: Wed, 10 Feb 2016 11:42:32 -0800
-Subject: [PATCH] drm/vc4: Add DSI1 driver
-
-The DSI0 and DSI1 blocks on the 2835 are different but very similar
-hardware blocks.  Some registers move around, and the featureset is
-slightly different, but they're clearly related.  This doesn't enable
-DSI0, but some of the infrastructure is present.
-
-Also, this driver doesn't initialize the DSI successfully from
-poweron, so we currently require that the Raspberry Pi firmware enable
-it at boot time.  From there, we just keep the same settings forever,
-and when poweroff is requested we just scan out black instead.
-
-Signed-off-by: Eric Anholt <eric@anholt.net>
----
- drivers/gpu/drm/vc4/Kconfig       |    2 +
- drivers/gpu/drm/vc4/Makefile      |    1 +
- drivers/gpu/drm/vc4/vc4_crtc.c    |   41 +-
- drivers/gpu/drm/vc4/vc4_debugfs.c |    2 +
- drivers/gpu/drm/vc4/vc4_drv.c     |    1 +
- drivers/gpu/drm/vc4/vc4_drv.h     |    8 +
- drivers/gpu/drm/vc4/vc4_dsi.c     | 1737 +++++++++++++++++++++++++++++++++++++
- 7 files changed, 1780 insertions(+), 12 deletions(-)
- create mode 100644 drivers/gpu/drm/vc4/vc4_dsi.c
-
---- a/drivers/gpu/drm/vc4/Kconfig
-+++ b/drivers/gpu/drm/vc4/Kconfig
-@@ -6,6 +6,8 @@ config DRM_VC4
-       select DRM_KMS_CMA_HELPER
-       select DRM_GEM_CMA_HELPER
-       select DRM_PANEL
-+      select DRM_MIPI_DSI
-+      select CLKSRC_OF
-       help
-         Choose this option if you have a system that has a Broadcom
-         VC4 GPU, such as the Raspberry Pi or other BCM2708/BCM2835.
---- a/drivers/gpu/drm/vc4/Makefile
-+++ b/drivers/gpu/drm/vc4/Makefile
-@@ -8,6 +8,7 @@ vc4-y := \
-       vc4_crtc.o \
-       vc4_drv.o \
-       vc4_dpi.o \
-+      vc4_dsi.o \
-       vc4_kms.o \
-       vc4_gem.o \
-       vc4_hdmi.o \
---- a/drivers/gpu/drm/vc4/vc4_crtc.c
-+++ b/drivers/gpu/drm/vc4/vc4_crtc.c
-@@ -231,7 +231,7 @@ static void vc4_crtc_mode_set_nofb(struc
-       bool is_dsi = (vc4_encoder->type == VC4_ENCODER_TYPE_DSI0 ||
-                      vc4_encoder->type == VC4_ENCODER_TYPE_DSI1);
-       u32 format = is_dsi ? PV_CONTROL_FORMAT_DSIV_24 : PV_CONTROL_FORMAT_24;
--      bool debug_dump_regs = true;
-+      bool debug_dump_regs = false;
-       if (debug_dump_regs) {
-               DRM_INFO("CRTC %d regs before:\n", drm_crtc_index(crtc));
-@@ -327,6 +327,19 @@ static void vc4_crtc_disable(struct drm_
-       int ret;
-       require_hvs_enabled(dev);
-+      if (VC4_DSI_USE_FIRMWARE_SETUP &&
-+          (CRTC_READ(PV_V_CONTROL) & PV_VCONTROL_DSI)) {
-+              /* Skip disabling the PV/HVS for the channel if it was
-+               * connected to the DSI panel and we're using the
-+               * firmware setup.  Instead, just set it to stuff
-+               * black in the composite output buffer.
-+               */
-+              HVS_WRITE(SCALER_DISPBKGNDX(vc4_crtc->channel),
-+                        HVS_READ(SCALER_DISPBKGNDX(vc4_crtc->channel)) |
-+                        SCALER_DISPBKGND_FILL);
-+              return;
-+      }
-+
-       CRTC_WRITE(PV_V_CONTROL,
-                  CRTC_READ(PV_V_CONTROL) & ~PV_VCONTROL_VIDEN);
-       ret = wait_for(!(CRTC_READ(PV_V_CONTROL) & PV_VCONTROL_VIDEN), 1);
-@@ -396,17 +409,19 @@ static int vc4_crtc_atomic_check(struct
-       if (drm_atomic_connectors_for_crtc(state->state, crtc) > 1)
-               return -EINVAL;
--      drm_atomic_crtc_state_for_each_plane(plane, state) {
--              struct drm_plane_state *plane_state =
--                      state->state->plane_states[drm_plane_index(plane)];
--
--              /* plane might not have changed, in which case take
--               * current state:
--               */
--              if (!plane_state)
--                      plane_state = plane->state;
-+      if (state->active) {
-+              drm_atomic_crtc_state_for_each_plane(plane, state) {
-+                      struct drm_plane_state *plane_state =
-+                              state->state->plane_states[drm_plane_index(plane)];
-+
-+                      /* plane might not have changed, in which case take
-+                       * current state:
-+                       */
-+                      if (!plane_state)
-+                              plane_state = plane->state;
--              dlist_count += vc4_plane_dlist_size(plane_state);
-+                      dlist_count += vc4_plane_dlist_size(plane_state);
-+              }
-       }
-       dlist_count++; /* Account for SCALER_CTL0_END. */
-@@ -439,8 +454,10 @@ static void vc4_crtc_atomic_flush(struct
-       }
-       /* Copy all the active planes' dlist contents to the hardware dlist. */
--      drm_atomic_crtc_for_each_plane(plane, crtc) {
--              dlist_next += vc4_plane_write_dlist(plane, dlist_next);
-+      if (crtc->state->active) {
-+              drm_atomic_crtc_for_each_plane(plane, crtc) {
-+                      dlist_next += vc4_plane_write_dlist(plane, dlist_next);
-+              }
-       }
-       writel(SCALER_CTL0_END, dlist_next);
---- a/drivers/gpu/drm/vc4/vc4_debugfs.c
-+++ b/drivers/gpu/drm/vc4/vc4_debugfs.c
-@@ -19,6 +19,8 @@ static const struct drm_info_list vc4_de
-       {"bo_stats", vc4_bo_stats_debugfs, 0},
-       {"dpi_regs", vc4_dpi_debugfs_regs, 0},
-       {"gem_exec", vc4_gem_exec_debugfs, 0},
-+      {"dsi0_regs", vc4_dsi_debugfs_regs, 0, (void *)(uintptr_t)0},
-+      {"dsi1_regs", vc4_dsi_debugfs_regs, 0, (void *)(uintptr_t)1},
-       {"hdmi_regs", vc4_hdmi_debugfs_regs, 0},
-       {"hvs_regs", vc4_hvs_debugfs_regs, 0},
-       {"crtc0_regs", vc4_crtc_debugfs_regs, 0, (void *)(uintptr_t)0},
---- a/drivers/gpu/drm/vc4/vc4_drv.c
-+++ b/drivers/gpu/drm/vc4/vc4_drv.c
-@@ -294,6 +294,7 @@ static const struct component_master_ops
- static struct platform_driver *const component_drivers[] = {
-       &vc4_hdmi_driver,
-       &vc4_dpi_driver,
-+      &vc4_dsi_driver,
-       &vc4_crtc_driver,
-       &vc4_hvs_driver,
-       &vc4_v3d_driver,
---- a/drivers/gpu/drm/vc4/vc4_drv.h
-+++ b/drivers/gpu/drm/vc4/vc4_drv.h
-@@ -19,6 +19,8 @@ struct vc4_dev {
-       struct vc4_crtc *crtc[3];
-       struct vc4_v3d *v3d;
-       struct vc4_dpi *dpi;
-+      struct vc4_dsi *dsi0;
-+      struct vc4_dsi *dsi1;
-       struct drm_fbdev_cma *fbdev;
-       struct rpi_firmware *firmware;
-@@ -192,6 +194,8 @@ enum vc4_encoder_type {
-       VC4_ENCODER_TYPE_DPI,
- };
-+#define VC4_DSI_USE_FIRMWARE_SETUP true
-+
- struct vc4_encoder {
-       struct drm_encoder base;
-       enum vc4_encoder_type type;
-@@ -429,6 +433,10 @@ void vc4_dump_regs32(const struct debugf
- extern struct platform_driver vc4_dpi_driver;
- int vc4_dpi_debugfs_regs(struct seq_file *m, void *unused);
-+/* vc4_dsi.c */
-+extern struct platform_driver vc4_dsi_driver;
-+int vc4_dsi_debugfs_regs(struct seq_file *m, void *unused);
-+
- /* vc4_gem.c */
- void vc4_gem_init(struct drm_device *dev);
- void vc4_gem_destroy(struct drm_device *dev);
---- /dev/null
-+++ b/drivers/gpu/drm/vc4/vc4_dsi.c
-@@ -0,0 +1,1737 @@
-+ /*
-+ * Copyright (C) 2016 Broadcom Limited
-+ *
-+ * This program is free software; you can redistribute it and/or modify it
-+ * under the terms of the GNU General Public License version 2 as published by
-+ * the Free Software Foundation.
-+ *
-+ * This program is distributed in the hope that it will be useful, but WITHOUT
-+ * ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
-+ * FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License for
-+ * more details.
-+ *
-+ * You should have received a copy of the GNU General Public License along with
-+ * this program.  If not, see <http://www.gnu.org/licenses/>.
-+ */
-+
-+/**
-+ * DOC: VC4 DSI0 module
-+ */
-+
-+#include "drm_atomic_helper.h"
-+#include "drm_crtc_helper.h"
-+#include "drm_edid.h"
-+#include "drm_mipi_dsi.h"
-+#include "drm_panel.h"
-+#include "linux/clk.h"
-+#include "linux/clk-provider.h"
-+#include "linux/completion.h"
-+#include "linux/component.h"
-+#include "linux/debugfs.h"
-+#include "linux/dmaengine.h"
-+#include "linux/i2c.h"
-+#include "linux/of_address.h"
-+#include "linux/of_gpio.h"
-+#include "linux/of_platform.h"
-+#include "vc4_drv.h"
-+#include "vc4_regs.h"
-+
-+#define DSI_CMD_FIFO_DEPTH  16
-+#define DSI_PIX_FIFO_DEPTH 256
-+#define DSI_PIX_FIFO_WIDTH   4
-+
-+#define DSI0_CTRL             0x00
-+
-+/* Command packet control. */
-+#define DSI0_TXPKT1C          0x04 /* AKA PKTC */
-+#define DSI1_TXPKT1C          0x04
-+# define DSI_TXPKT1C_TRIG_CMD_MASK    VC4_MASK(31, 24)
-+# define DSI_TXPKT1C_TRIG_CMD_SHIFT   24
-+# define DSI_TXPKT1C_CMD_REPEAT_MASK  VC4_MASK(23, 10)
-+# define DSI_TXPKT1C_CMD_REPEAT_SHIFT 10
-+
-+# define DSI_TXPKT1C_DISPLAY_NO_MASK  VC4_MASK(9, 8)
-+# define DSI_TXPKT1C_DISPLAY_NO_SHIFT 8
-+/* Short, trigger, BTA, or a long packet that fits all in CMDFIFO. */
-+# define DSI_TXPKT1C_DISPLAY_NO_SHORT         0
-+/* Primary display where cmdfifo provides part of the payload and
-+ * pixelvalve the rest.
-+ */
-+# define DSI_TXPKT1C_DISPLAY_NO_PRIMARY               1
-+/* Secondary display where cmdfifo provides part of the payload and
-+ * pixfifo the rest.
-+ */
-+# define DSI_TXPKT1C_DISPLAY_NO_SECONDARY     2
-+
-+# define DSI_TXPKT1C_CMD_TX_TIME_MASK VC4_MASK(7, 6)
-+# define DSI_TXPKT1C_CMD_TX_TIME_SHIFT        6
-+# define DSI_TXPKT1C_CMD_CTRL_MASK    VC4_MASK(5, 4)
-+# define DSI_TXPKT1C_CMD_CTRL_SHIFT   4
-+/* Command only.  Uses TXPKT1H and DISPLAY_NO */
-+# define DSI_TXPKT1C_CMD_CTRL_TX      0
-+/* Command with BTA for either ack or read data. */
-+# define DSI_TXPKT1C_CMD_CTRL_RX      1
-+/* Trigger according to TRIG_CMD */
-+# define DSI_TXPKT1C_CMD_CTRL_TRIG    2
-+/* BTA alone for getting error status after a command, or a TE trigger
-+ * without a previous command.
-+ */
-+# define DSI_TXPKT1C_CMD_CTRL_BTA     3
-+
-+# define DSI_TXPKT1C_CMD_MODE_LP      BIT(3)
-+# define DSI_TXPKT1C_CMD_TYPE_LONG    BIT(2)
-+# define DSI_TXPKT1C_CMD_TE_EN                BIT(1)
-+# define DSI_TXPKT1C_CMD_EN           BIT(0)
-+
-+/* Command packet header. */
-+#define DSI0_TXPKT1H          0x08 /* AKA PKTH */
-+#define DSI1_TXPKT1H          0x08
-+# define DSI_TXPKT1H_BC_CMDFIFO_MASK  VC4_MASK(31, 24)
-+# define DSI_TXPKT1H_BC_CMDFIFO_SHIFT 24
-+# define DSI_TXPKT1H_BC_PARAM_MASK    VC4_MASK(23, 8)
-+# define DSI_TXPKT1H_BC_PARAM_SHIFT   8
-+# define DSI_TXPKT1H_BC_DT_MASK               VC4_MASK(7, 0)
-+# define DSI_TXPKT1H_BC_DT_SHIFT      0
-+
-+#define DSI0_RXPKT1H          0x0c /* AKA RX1_PKTH */
-+#define DSI1_RXPKT1H          0x14
-+# define DSI_RXPKT1H_CRC_ERR          BIT(31)
-+# define DSI_RXPKT1H_DET_ERR          BIT(30)
-+# define DSI_RXPKT1H_ECC_ERR          BIT(29)
-+# define DSI_RXPKT1H_COR_ERR          BIT(28)
-+# define DSI_RXPKT1H_INCOMP_PKT               BIT(25)
-+# define DSI_RXPKT1H_PKT_TYPE_LONG    BIT(24)
-+/* Byte count if DSI_RXPKT1H_PKT_TYPE_LONG */
-+# define DSI_RXPKT1H_BC_PARAM_MASK    VC4_MASK(23, 8)
-+# define DSI_RXPKT1H_BC_PARAM_SHIFT   8
-+/* Short return bytes if !DSI_RXPKT1H_PKT_TYPE_LONG */
-+# define DSI_RXPKT1H_SHORT_1_MASK     VC4_MASK(23, 16)
-+# define DSI_RXPKT1H_SHORT_1_SHIFT    16
-+# define DSI_RXPKT1H_SHORT_0_MASK     VC4_MASK(15, 8)
-+# define DSI_RXPKT1H_SHORT_0_SHIFT    8
-+# define DSI_RXPKT1H_DT_LP_CMD_MASK   VC4_MASK(7, 0)
-+# define DSI_RXPKT1H_DT_LP_CMD_SHIFT  0
-+
-+#define DSI0_RXPKT2H          0x10 /* AKA RX2_PKTH */
-+#define DSI1_RXPKT2H          0x18
-+# define DSI_RXPKT1H_DET_ERR          BIT(30)
-+# define DSI_RXPKT1H_ECC_ERR          BIT(29)
-+# define DSI_RXPKT1H_COR_ERR          BIT(28)
-+# define DSI_RXPKT1H_INCOMP_PKT               BIT(25)
-+# define DSI_RXPKT1H_BC_PARAM_MASK    VC4_MASK(23, 8)
-+# define DSI_RXPKT1H_BC_PARAM_SHIFT   8
-+# define DSI_RXPKT1H_DT_MASK          VC4_MASK(7, 0)
-+# define DSI_RXPKT1H_DT_SHIFT         0
-+
-+#define DSI0_TXPKT_CMD_FIFO   0x14 /* AKA CMD_DATAF */
-+#define DSI1_TXPKT_CMD_FIFO   0x1c
-+
-+#define DSI0_DISP0_CTRL               0x18
-+# define DSI_DISP0_PIX_CLK_DIV_MASK   VC4_MASK(21, 13)
-+# define DSI_DISP0_PIX_CLK_DIV_SHIFT  13
-+# define DSI_DISP0_LP_STOP_CTRL_MASK  VC4_MASK(12, 11)
-+# define DSI_DISP0_LP_STOP_CTRL_SHIFT 11
-+# define DSI_DISP0_LP_STOP_DISABLE    0
-+# define DSI_DISP0_LP_STOP_PERLINE    1
-+# define DSI_DISP0_LP_STOP_PERFRAME   2
-+
-+/* Transmit RGB pixels and null packets only during HACTIVE, instead
-+ * of going to LP-STOP.
-+ */
-+# define DSI_DISP_HACTIVE_NULL                BIT(10)
-+/* Transmit blanking packet only during vblank, instead of allowing LP-STOP. */
-+# define DSI_DISP_VBLP_CTRL           BIT(9)
-+/* Transmit blanking packet only during HFP, instead of allowing LP-STOP. */
-+# define DSI_DISP_HFP_CTRL            BIT(8)
-+/* Transmit blanking packet only during HBP, instead of allowing LP-STOP. */
-+# define DSI_DISP_HBP_CTRL            BIT(7)
-+# define DSI_DISP0_CHANNEL_MASK               VC4_MASK(6, 5)
-+# define DSI_DISP0_CHANNEL_SHIFT      5
-+/* Enables and end events for HSYNC/VSYNC, not just start events. */
-+# define DSI_DISP0_ST_END             BIT(4)
-+# define DSI_DISP0_PFORMAT_MASK               VC4_MASK(3, 2)
-+# define DSI_DISP0_PFORMAT_SHIFT      2
-+# define DSI_PFORMAT_RGB565           0
-+# define DSI_PFORMAT_RGB666_PACKED    1
-+# define DSI_PFORMAT_RGB666           2
-+# define DSI_PFORMAT_RGB888           3
-+/* Default is VIDEO mode. */
-+# define DSI_DISP0_COMMAND_MODE               BIT(1)
-+# define DSI_DISP0_ENABLE             BIT(0)
-+
-+#define DSI0_DISP1_CTRL               0x1c
-+#define DSI1_DISP1_CTRL               0x2c
-+/* Format of the data written to TXPKT_PIX_FIFO. */
-+# define DSI_DISP1_PFORMAT_MASK               VC4_MASK(2, 1)
-+# define DSI_DISP1_PFORMAT_SHIFT      1
-+# define DSI_DISP1_PFORMAT_16BIT      0
-+# define DSI_DISP1_PFORMAT_24BIT      1
-+# define DSI_DISP1_PFORMAT_32BIT_LE   2
-+# define DSI_DISP1_PFORMAT_32BIT_BE   3
-+
-+/* DISP1 is always command mode. */
-+# define DSI_DISP1_ENABLE             BIT(0)
-+
-+#define DSI0_TXPKT_PIX_FIFO           0x20 /* AKA PIX_FIFO */
-+
-+#define DSI0_INT_STAT         0x24
-+#define DSI0_INT_EN           0x28
-+# define DSI1_INT_PHY_D3_ULPS         BIT(30)
-+# define DSI1_INT_PHY_D3_STOP         BIT(29)
-+# define DSI1_INT_PHY_D2_ULPS         BIT(28)
-+# define DSI1_INT_PHY_D2_STOP         BIT(27)
-+# define DSI1_INT_PHY_D1_ULPS         BIT(26)
-+# define DSI1_INT_PHY_D1_STOP         BIT(25)
-+# define DSI1_INT_PHY_D0_ULPS         BIT(24)
-+# define DSI1_INT_PHY_D0_STOP         BIT(23)
-+# define DSI1_INT_FIFO_ERR            BIT(22)
-+# define DSI1_INT_PHY_DIR_RTF         BIT(21)
-+# define DSI1_INT_PHY_RXLPDT          BIT(20)
-+# define DSI1_INT_PHY_RXTRIG          BIT(19)
-+# define DSI1_INT_PHY_D0_LPDT         BIT(18)
-+# define DSI1_INT_PHY_DIR_FTR         BIT(17)
-+
-+/* Signaled when the clock lane enters the given state. */
-+# define DSI1_INT_PHY_CLOCK_ULPS      BIT(16)
-+# define DSI1_INT_PHY_CLOCK_HS                BIT(15)
-+# define DSI1_INT_PHY_CLOCK_STOP      BIT(14)
-+
-+/* Signaled on timeouts */
-+# define DSI1_INT_PR_TO                       BIT(13)
-+# define DSI1_INT_TA_TO                       BIT(12)
-+# define DSI1_INT_LPRX_TO             BIT(11)
-+# define DSI1_INT_HSTX_TO             BIT(10)
-+
-+/* Contention on a line when trying to drive the line low */
-+# define DSI1_INT_ERR_CONT_LP1                BIT(9)
-+# define DSI1_INT_ERR_CONT_LP0                BIT(8)
-+
-+/* Control error: incorrect line state sequence on data lane 0. */
-+# define DSI1_INT_ERR_CONTROL         BIT(7)
-+/* LPDT synchronization error (bits received not a multiple of 8. */
-+
-+# define DSI1_INT_ERR_SYNC_ESC                BIT(6)
-+/* Signaled after receiving an error packet from the display in
-+ * response to a read.
-+ */
-+# define DSI1_INT_RXPKT2              BIT(5)
-+/* Signaled after receiving a packet.  The header and optional short
-+ * response will be in RXPKT1H, and a long response will be in the
-+ * RXPKT_FIFO.
-+ */
-+# define DSI1_INT_RXPKT1              BIT(4)
-+# define DSI1_INT_TXPKT2_DONE         BIT(3)
-+# define DSI1_INT_TXPKT2_END          BIT(2)
-+/* Signaled after all repeats of TXPKT1 are transferred. */
-+# define DSI1_INT_TXPKT1_DONE         BIT(1)
-+/* Signaled after each TXPKT1 repeat is scheduled. */
-+# define DSI1_INT_TXPKT1_END          BIT(0)
-+
-+#define DSI1_INTERRUPTS_ALWAYS_ENABLED        (DSI1_INT_ERR_SYNC_ESC | \
-+                                       DSI1_INT_ERR_CONTROL |  \
-+                                       DSI1_INT_ERR_CONT_LP0 | \
-+                                       DSI1_INT_ERR_CONT_LP1 | \
-+                                       DSI1_INT_HSTX_TO |      \
-+                                       DSI1_INT_LPRX_TO |      \
-+                                       DSI1_INT_TA_TO |        \
-+                                       DSI1_INT_PR_TO)
-+
-+#define DSI0_STAT             0x2c
-+#define DSI0_HSTX_TO_CNT      0x30
-+#define DSI0_LPRX_TO_CNT      0x34
-+#define DSI0_TA_TO_CNT                0x38
-+#define DSI0_PR_TO_CNT                0x3c
-+#define DSI0_PHYC             0x40
-+# define DSI1_PHYC_ESC_CLK_LPDT_MASK  VC4_MASK(25, 20)
-+# define DSI1_PHYC_ESC_CLK_LPDT_SHIFT 20
-+# define DSI1_PHYC_HS_CLK_CONTINUOUS  BIT(18)
-+# define DSI1_PHYC_CLANE_ULPS         BIT(17)
-+# define DSI0_PHYC_ESC_CLK_LPDT_MASK  VC4_MASK(17, 12)
-+# define DSI0_PHYC_ESC_CLK_LPDT_SHIFT 12
-+# define DSI1_PHYC_CLANE_ENABLE               BIT(16)
-+# define DSI_PHYC_DLANE3_ULPS         BIT(13)
-+# define DSI_PHYC_DLANE3_ENABLE               BIT(12)
-+# define DSI0_PHYC_HS_CLK_CONTINUOUS  BIT(10)
-+# define DSI0_PHYC_CLANE_ULPS         BIT(9)
-+# define DSI_PHYC_DLANE2_ULPS         BIT(9)
-+# define DSI0_PHYC_CLANE_ENABLE               BIT(8)
-+# define DSI_PHYC_DLANE2_ENABLE               BIT(8)
-+# define DSI_PHYC_DLANE1_ULPS         BIT(5)
-+# define DSI_PHYC_DLANE1_ENABLE               BIT(4)
-+# define DSI_PHYC_DLANE0_FORCE_STOP   BIT(2)
-+# define DSI_PHYC_DLANE0_ULPS         BIT(1)
-+# define DSI_PHYC_DLANE0_ENABLE               BIT(0)
-+
-+#define DSI0_HS_CLT0          0x44
-+#define DSI0_HS_CLT1          0x48
-+#define DSI0_HS_CLT2          0x4c
-+#define DSI0_HS_DLT3          0x50
-+#define DSI0_HS_DLT4          0x54
-+#define DSI0_HS_DLT5          0x58
-+#define DSI0_HS_DLT6          0x5c
-+#define DSI0_HS_DLT7          0x60
-+
-+#define DSI0_PHY_AFEC0                0x64
-+# define DSI0_PHY_AFEC0_DDR2CLK_EN            BIT(26)
-+# define DSI0_PHY_AFEC0_DDRCLK_EN             BIT(25)
-+# define DSI0_PHY_AFEC0_LATCH_ULPS            BIT(24)
-+# define DSI1_PHY_AFEC0_IDR_DLANE3_MASK               VC4_MASK(31, 29)
-+# define DSI1_PHY_AFEC0_IDR_DLANE3_SHIFT      29
-+# define DSI1_PHY_AFEC0_IDR_DLANE2_MASK               VC4_MASK(28, 26)
-+# define DSI1_PHY_AFEC0_IDR_DLANE2_SHIFT      26
-+# define DSI1_PHY_AFEC0_IDR_DLANE1_MASK               VC4_MASK(27, 23)
-+# define DSI1_PHY_AFEC0_IDR_DLANE1_SHIFT      23
-+# define DSI1_PHY_AFEC0_IDR_DLANE0_MASK               VC4_MASK(22, 20)
-+# define DSI1_PHY_AFEC0_IDR_DLANE0_SHIFT      20
-+# define DSI1_PHY_AFEC0_IDR_CLANE_MASK                VC4_MASK(19, 17)
-+# define DSI1_PHY_AFEC0_IDR_CLANE_SHIFT               17
-+# define DSI0_PHY_AFEC0_ACTRL_DLANE1_MASK     VC4_MASK(23, 20)
-+# define DSI0_PHY_AFEC0_ACTRL_DLANE1_SHIFT    20
-+# define DSI0_PHY_AFEC0_ACTRL_DLANE0_MASK     VC4_MASK(19, 16)
-+# define DSI0_PHY_AFEC0_ACTRL_DLANE0_SHIFT    16
-+# define DSI0_PHY_AFEC0_ACTRL_CLANE_MASK      VC4_MASK(15, 12)
-+# define DSI0_PHY_AFEC0_ACTRL_CLANE_SHIFT     12
-+# define DSI1_PHY_AFEC0_DDR2CLK_EN            BIT(16)
-+# define DSI1_PHY_AFEC0_DDRCLK_EN             BIT(15)
-+# define DSI1_PHY_AFEC0_LATCH_ULPS            BIT(14)
-+# define DSI1_PHY_AFEC0_RESET                 BIT(13)
-+# define DSI1_PHY_AFEC0_PD                    BIT(12)
-+# define DSI0_PHY_AFEC0_RESET                 BIT(11)
-+# define DSI1_PHY_AFEC0_PD_BG                 BIT(11)
-+# define DSI0_PHY_AFEC0_PD                    BIT(10)
-+# define DSI1_PHY_AFEC0_PD_DLANE3             BIT(10)
-+# define DSI0_PHY_AFEC0_PD_BG                 BIT(9)
-+# define DSI1_PHY_AFEC0_PD_DLANE2             BIT(9)
-+# define DSI0_PHY_AFEC0_PD_DLANE1             BIT(8)
-+# define DSI1_PHY_AFEC0_PD_DLANE1             BIT(8)
-+# define DSI_PHY_AFEC0_PTATADJ_MASK           VC4_MASK(7, 4)
-+# define DSI_PHY_AFEC0_PTATADJ_SHIFT          4
-+# define DSI_PHY_AFEC0_CTATADJ_MASK           VC4_MASK(3, 0)
-+# define DSI_PHY_AFEC0_CTATADJ_SHIFT          0
-+
-+#define DSI0_PHY_AFEC1                0x68
-+# define DSI0_PHY_AFEC1_IDR_DLANE1_MASK               VC4_MASK(10, 8)
-+# define DSI0_PHY_AFEC1_IDR_DLANE1_SHIFT      8
-+# define DSI0_PHY_AFEC1_IDR_DLANE0_MASK               VC4_MASK(6, 4)
-+# define DSI0_PHY_AFEC1_IDR_DLANE0_SHIFT      4
-+# define DSI0_PHY_AFEC1_IDR_CLANE_MASK                VC4_MASK(2, 0)
-+# define DSI0_PHY_AFEC1_IDR_CLANE_SHIFT               0
-+
-+#define DSI0_TST_SEL          0x6c
-+#define DSI0_TST_MON          0x70
-+#define DSI0_ID                       0x74
-+# define DSI_ID_VALUE         0x00647369
-+
-+
-+#define DSI1_CTRL             0x00
-+# define DSI_CTRL_HS_CLKC_MASK                VC4_MASK(15, 14)
-+# define DSI_CTRL_HS_CLKC_SHIFT               14
-+# define DSI_CTRL_HS_CLKC_BYTE                0
-+# define DSI_CTRL_HS_CLKC_DDR2                1
-+# define DSI_CTRL_HS_CLKC_DDR         2
-+
-+# define DSI_CTRL_RX_LPDT_EOT_DISABLE BIT(13)
-+# define DSI_CTRL_LPDT_EOT_DISABLE    BIT(12)
-+# define DSI_CTRL_HSDT_EOT_DISABLE    BIT(11)
-+# define DSI_CTRL_SOFT_RESET_CFG      BIT(10)
-+# define DSI_CTRL_CAL_BYTE            BIT(9)
-+# define DSI_CTRL_INV_BYTE            BIT(8)
-+# define DSI_CTRL_CLR_LDF             BIT(7)
-+# define DSI0_CTRL_CLR_PBCF           BIT(6)
-+# define DSI1_CTRL_CLR_RXF            BIT(6)
-+# define DSI0_CTRL_CLR_CPBCF          BIT(5)
-+# define DSI1_CTRL_CLR_PDF            BIT(5)
-+# define DSI0_CTRL_CLR_PDF            BIT(4)
-+# define DSI1_CTRL_CLR_CDF            BIT(4)
-+# define DSI0_CTRL_CLR_CDF            BIT(3)
-+# define DSI0_CTRL_CTRL2              BIT(2)
-+# define DSI1_CTRL_DISABLE_DISP_CRCC  BIT(2)
-+# define DSI0_CTRL_CTRL1              BIT(1)
-+# define DSI1_CTRL_DISABLE_DISP_ECCC  BIT(1)
-+# define DSI0_CTRL_CTRL0              BIT(0)
-+# define DSI1_CTRL_EN                 BIT(0)
-+# define DSI0_CTRL_RESET_FIFOS                (DSI_CTRL_CLR_LDF | \
-+                                       DSI0_CTRL_CLR_PBCF | \
-+                                       DSI0_CTRL_CLR_CPBCF |  \
-+                                       DSI0_CTRL_CLR_PDF | \
-+                                       DSI0_CTRL_CLR_CDF)
-+# define DSI1_CTRL_RESET_FIFOS                (DSI_CTRL_CLR_LDF | \
-+                                       DSI1_CTRL_CLR_RXF | \
-+                                       DSI1_CTRL_CLR_PDF | \
-+                                       DSI1_CTRL_CLR_CDF)
-+
-+#define DSI1_TXPKT2C          0x0c
-+#define DSI1_TXPKT2H          0x10
-+#define DSI1_TXPKT_PIX_FIFO   0x20
-+#define DSI1_RXPKT_FIFO               0x24
-+#define DSI1_DISP0_CTRL               0x28
-+#define DSI1_INT_STAT         0x30
-+#define DSI1_INT_EN           0x34
-+
-+/* State reporting bits.  These mostly behave like INT_STAT, where
-+ * writing a 1 clears the bit.
-+ */
-+#define DSI1_STAT             0x38
-+# define DSI1_STAT_PHY_D3_ULPS                BIT(31)
-+# define DSI1_STAT_PHY_D3_STOP                BIT(30)
-+# define DSI1_STAT_PHY_D2_ULPS                BIT(29)
-+# define DSI1_STAT_PHY_D2_STOP                BIT(28)
-+# define DSI1_STAT_PHY_D1_ULPS                BIT(27)
-+# define DSI1_STAT_PHY_D1_STOP                BIT(26)
-+# define DSI1_STAT_PHY_D0_ULPS                BIT(25)
-+# define DSI1_STAT_PHY_D0_STOP                BIT(24)
-+# define DSI1_STAT_FIFO_ERR           BIT(23)
-+# define DSI1_STAT_PHY_RXLPDT         BIT(22)
-+# define DSI1_STAT_PHY_RXTRIG         BIT(21)
-+# define DSI1_STAT_PHY_D0_LPDT                BIT(20)
-+/* Set when in forward direction */
-+# define DSI1_STAT_PHY_DIR            BIT(19)
-+# define DSI1_STAT_PHY_CLOCK_ULPS     BIT(18)
-+# define DSI1_STAT_PHY_CLOCK_HS               BIT(17)
-+# define DSI1_STAT_PHY_CLOCK_STOP     BIT(16)
-+# define DSI1_STAT_PR_TO              BIT(15)
-+# define DSI1_STAT_TA_TO              BIT(14)
-+# define DSI1_STAT_LPRX_TO            BIT(13)
-+# define DSI1_STAT_HSTX_TO            BIT(12)
-+# define DSI1_STAT_ERR_CONT_LP1               BIT(11)
-+# define DSI1_STAT_ERR_CONT_LP0               BIT(10)
-+# define DSI1_STAT_ERR_CONTROL                BIT(9)
-+# define DSI1_STAT_ERR_SYNC_ESC               BIT(8)
-+# define DSI1_STAT_RXPKT2             BIT(7)
-+# define DSI1_STAT_RXPKT1             BIT(6)
-+# define DSI1_STAT_TXPKT2_BUSY                BIT(5)
-+# define DSI1_STAT_TXPKT2_DONE                BIT(4)
-+# define DSI1_STAT_TXPKT2_END         BIT(3)
-+# define DSI1_STAT_TXPKT1_BUSY                BIT(2)
-+# define DSI1_STAT_TXPKT1_DONE                BIT(1)
-+# define DSI1_STAT_TXPKT1_END         BIT(0)
-+
-+#define DSI1_HSTX_TO_CNT      0x3c
-+#define DSI1_LPRX_TO_CNT      0x40
-+#define DSI1_TA_TO_CNT                0x44
-+#define DSI1_PR_TO_CNT                0x48
-+#define DSI1_PHYC             0x4c
-+
-+#define DSI1_HS_CLT0          0x50
-+# define DSI_HS_CLT0_CZERO_MASK               VC4_MASK(26, 18)
-+# define DSI_HS_CLT0_CZERO_SHIFT      18
-+# define DSI_HS_CLT0_CPRE_MASK                VC4_MASK(17, 9)
-+# define DSI_HS_CLT0_CPRE_SHIFT               9
-+# define DSI_HS_CLT0_CPREP_MASK               VC4_MASK(8, 0)
-+# define DSI_HS_CLT0_CPREP_SHIFT      0
-+
-+#define DSI1_HS_CLT1          0x54
-+# define DSI_HS_CLT1_CTRAIL_MASK      VC4_MASK(17, 9)
-+# define DSI_HS_CLT1_CTRAIL_SHIFT     9
-+# define DSI_HS_CLT1_CPOST_MASK               VC4_MASK(8, 0)
-+# define DSI_HS_CLT1_CPOST_SHIFT      0
-+
-+#define DSI1_HS_CLT2          0x58
-+# define DSI_HS_CLT2_WUP_MASK         VC4_MASK(23, 0)
-+# define DSI_HS_CLT2_WUP_SHIFT                0
-+
-+#define DSI1_HS_DLT3          0x5c
-+# define DSI_HS_DLT3_EXIT_MASK                VC4_MASK(26, 18)
-+# define DSI_HS_DLT3_EXIT_SHIFT               18
-+# define DSI_HS_DLT3_ZERO_MASK                VC4_MASK(17, 9)
-+# define DSI_HS_DLT3_ZERO_SHIFT               9
-+# define DSI_HS_DLT3_PRE_MASK         VC4_MASK(8, 0)
-+# define DSI_HS_DLT3_PRE_SHIFT                0
-+
-+#define DSI1_HS_DLT4          0x60
-+# define DSI_HS_DLT4_ANLAT_MASK               VC4_MASK(22, 18)
-+# define DSI_HS_DLT4_ANLAT_SHIFT      18
-+# define DSI_HS_DLT4_TRAIL_MASK               VC4_MASK(17, 9)
-+# define DSI_HS_DLT4_TRAIL_SHIFT      9
-+# define DSI_HS_DLT4_LPX_MASK         VC4_MASK(8, 0)
-+# define DSI_HS_DLT4_LPX_SHIFT                0
-+
-+#define DSI1_HS_DLT5          0x64
-+# define DSI_HS_DLT5_INIT_MASK                VC4_MASK(23, 0)
-+# define DSI_HS_DLT5_INIT_SHIFT               0
-+
-+#define DSI1_HS_DLT6          0x68
-+# define DSI_HS_DLT6_TA_GET_MASK      VC4_MASK(31, 24)
-+# define DSI_HS_DLT6_TA_GET_SHIFT     24
-+# define DSI_HS_DLT6_TA_SURE_MASK     VC4_MASK(23, 16)
-+# define DSI_HS_DLT6_TA_SURE_SHIFT    16
-+# define DSI_HS_DLT6_TA_GO_MASK               VC4_MASK(15, 8)
-+# define DSI_HS_DLT6_TA_GO_SHIFT      8
-+# define DSI_HS_DLT6_LP_LPX_MASK      VC4_MASK(7, 0)
-+# define DSI_HS_DLT6_LP_LPX_SHIFT     0
-+
-+#define DSI1_HS_DLT7          0x6c
-+# define DSI_HS_DLT7_LP_WUP_MASK      VC4_MASK(23, 0)
-+# define DSI_HS_DLT7_LP_WUP_SHIFT     0
-+
-+#define DSI1_PHY_AFEC0                0x70
-+
-+#define DSI1_PHY_AFEC1                0x74
-+# define DSI1_PHY_AFEC1_ACTRL_DLANE3_MASK     VC4_MASK(19, 16)
-+# define DSI1_PHY_AFEC1_ACTRL_DLANE3_SHIFT    16
-+# define DSI1_PHY_AFEC1_ACTRL_DLANE2_MASK     VC4_MASK(15, 12)
-+# define DSI1_PHY_AFEC1_ACTRL_DLANE2_SHIFT    12
-+# define DSI1_PHY_AFEC1_ACTRL_DLANE1_MASK     VC4_MASK(11, 8)
-+# define DSI1_PHY_AFEC1_ACTRL_DLANE1_SHIFT    8
-+# define DSI1_PHY_AFEC1_ACTRL_DLANE0_MASK     VC4_MASK(7, 4)
-+# define DSI1_PHY_AFEC1_ACTRL_DLANE0_SHIFT    4
-+# define DSI1_PHY_AFEC1_ACTRL_CLANE_MASK      VC4_MASK(3, 0)
-+# define DSI1_PHY_AFEC1_ACTRL_CLANE_SHIFT     0
-+
-+#define DSI1_TST_SEL          0x78
-+#define DSI1_TST_MON          0x7c
-+#define DSI1_PHY_TST1         0x80
-+#define DSI1_PHY_TST2         0x84
-+#define DSI1_PHY_FIFO_STAT    0x88
-+/* Actually, all registers in the range that aren't otherwise claimed
-+ * will return the ID.
-+ */
-+#define DSI1_ID                       0x8c
-+
-+/* General DSI hardware state. */
-+struct vc4_dsi {
-+      struct platform_device *pdev;
-+
-+      struct mipi_dsi_host dsi_host;
-+      struct drm_encoder *encoder;
-+      struct drm_connector *connector;
-+      struct drm_panel *panel;
-+
-+      void __iomem *regs;
-+
-+      struct dma_chan *reg_dma_chan;
-+      dma_addr_t reg_dma_paddr;
-+      u32 *reg_dma_mem;
-+      dma_addr_t reg_paddr;
-+
-+      /* Whether we're on bcm2835's DSI0 or DSI1. */
-+      int port;
-+
-+      /* DSI channel for the panel we're connected to. */
-+      u32 channel;
-+      u32 lanes;
-+      enum mipi_dsi_pixel_format format;
-+      u32 mode_flags;
-+
-+      /* Input clock to the PHY, for the DSI escape clock. */
-+      struct clk *escape_clock;
-+
-+      /* Input clock to the PHY, used to generate the DSI bit
-+       * clock.
-+       */
-+      struct clk *pll_phy_clock;
-+
-+      /* Byte clock generated within the DSI PHY. */
-+      struct clk_hw phy_byte_clock;
-+
-+      struct clk_onecell_data clk_onecell;
-+
-+      /* Pixel clock output to the pixelvalve, generated from the
-+       * byte clock.
-+       */
-+      struct clk *pixel_clock;
-+
-+      struct completion xfer_completion;
-+      int xfer_result;
-+
-+      bool use_firmware_setup;
-+};
-+
-+static inline void
-+dsi_write(struct vc4_dsi *dsi, u32 offset, u32 val)
-+{
-+      struct dma_chan *chan = dsi->reg_dma_chan;
-+      struct dma_async_tx_descriptor *tx;
-+      dma_cookie_t cookie;
-+      int ret;
-+
-+#if 0 /* XXX */
-+      dev_info(&dsi->pdev->dev, "WRITE 0x%04x -> 0x%08x\n", offset, val);
-+#endif
-+
-+      if (!chan) {
-+              writel(val, dsi->regs + offset);
-+              return;
-+      }
-+
-+      *dsi->reg_dma_mem = val;
-+
-+      tx = chan->device->device_prep_dma_memcpy(chan,
-+                                                dsi->reg_paddr + offset,
-+                                                dsi->reg_dma_paddr,
-+                                                4, 0);
-+      if (!tx) {
-+              DRM_ERROR("Failed to set up DMA register write\n");
-+              return;
-+      }
-+
-+      cookie = tx->tx_submit(tx);
-+      ret = dma_submit_error(cookie);
-+      if (ret) {
-+              DRM_ERROR("Failed to submit DMA: %d\n", ret);
-+              return;
-+      }
-+      ret = dma_sync_wait(chan, cookie);
-+      if (ret)
-+              DRM_ERROR("Failed to wait for DMA: %d\n", ret);
-+
-+#if 0 /* XXX */
-+      if (offset != DSI1_TXPKT_CMD_FIFO &&
-+          offset != DSI1_TXPKT_PIX_FIFO) {
-+              dev_info(&dsi->pdev->dev,
-+                       "             -> 0x%08x\n",
-+                       readl(dsi->regs + (offset)));
-+      }
-+#endif
-+}
-+
-+#define DSI_READ(offset) readl(dsi->regs + (offset))
-+#define DSI_WRITE(offset, val) dsi_write(dsi, offset, val)
-+#define DSI_PORT_READ(offset) \
-+      DSI_READ(dsi->port ? DSI1_##offset : DSI0_##offset)
-+#define DSI_PORT_WRITE(offset, val) \
-+      DSI_WRITE(dsi->port ? DSI1_##offset : DSI0_##offset, val)
-+#define DSI_PORT_BIT(bit) (dsi->port ? DSI1_##bit : DSI0_##bit)
-+
-+/* VC4 DSI encoder KMS struct */
-+struct vc4_dsi_encoder {
-+      struct vc4_encoder base;
-+      struct vc4_dsi *dsi;
-+};
-+
-+static inline struct vc4_dsi_encoder *
-+to_vc4_dsi_encoder(struct drm_encoder *encoder)
-+{
-+      return container_of(encoder, struct vc4_dsi_encoder, base.base);
-+}
-+#define host_to_dsi(host) container_of(host, struct vc4_dsi, dsi_host)
-+
-+/* VC4 DSI connector KMS struct */
-+struct vc4_dsi_connector {
-+      struct drm_connector base;
-+      struct vc4_dsi *dsi;
-+
-+      /* Since the connector is attached to just the one encoder,
-+       * this is the reference to it so we can do the best_encoder()
-+       * hook.
-+       */
-+      struct drm_encoder *encoder;
-+};
-+
-+static inline struct vc4_dsi_connector *
-+to_vc4_dsi_connector(struct drm_connector *connector)
-+{
-+      return container_of(connector, struct vc4_dsi_connector, base);
-+}
-+
-+static const struct debugfs_reg32 dsi0_regs[] = {
-+      VC4_DEBUG_REG(DSI0_CTRL),
-+      VC4_DEBUG_REG(DSI0_STAT),
-+      VC4_DEBUG_REG(DSI0_DISP0_CTRL),
-+      VC4_DEBUG_REG(DSI0_DISP1_CTRL),
-+      VC4_DEBUG_REG(DSI0_PHYC),
-+      VC4_DEBUG_REG(DSI0_STAT),
-+      VC4_DEBUG_REG(DSI0_HS_CLT0),
-+      VC4_DEBUG_REG(DSI0_HS_CLT1),
-+      VC4_DEBUG_REG(DSI0_HS_CLT2),
-+      VC4_DEBUG_REG(DSI0_HS_DLT3),
-+      VC4_DEBUG_REG(DSI0_HS_DLT4),
-+      VC4_DEBUG_REG(DSI0_HS_DLT5),
-+      VC4_DEBUG_REG(DSI0_HS_DLT6),
-+      VC4_DEBUG_REG(DSI0_HS_DLT7),
-+      VC4_DEBUG_REG(DSI0_PHY_AFEC0),
-+      VC4_DEBUG_REG(DSI0_PHY_AFEC1),
-+      VC4_DEBUG_REG(DSI0_ID),
-+};
-+
-+static const struct debugfs_reg32 dsi1_regs[] = {
-+      VC4_DEBUG_REG(DSI1_CTRL),
-+      VC4_DEBUG_REG(DSI1_STAT),
-+      VC4_DEBUG_REG(DSI1_DISP0_CTRL),
-+      VC4_DEBUG_REG(DSI1_DISP1_CTRL),
-+      VC4_DEBUG_REG(DSI1_PHYC),
-+      VC4_DEBUG_REG(DSI1_STAT),
-+      VC4_DEBUG_REG(DSI1_HS_CLT0),
-+      VC4_DEBUG_REG(DSI1_HS_CLT1),
-+      VC4_DEBUG_REG(DSI1_HS_CLT2),
-+      VC4_DEBUG_REG(DSI1_HS_DLT3),
-+      VC4_DEBUG_REG(DSI1_HS_DLT4),
-+      VC4_DEBUG_REG(DSI1_HS_DLT5),
-+      VC4_DEBUG_REG(DSI1_HS_DLT6),
-+      VC4_DEBUG_REG(DSI1_HS_DLT7),
-+      VC4_DEBUG_REG(DSI1_PHY_AFEC0),
-+      VC4_DEBUG_REG(DSI1_PHY_AFEC1),
-+      VC4_DEBUG_REG(DSI1_ID),
-+};
-+
-+static void vc4_dsi_dump_regs(struct vc4_dsi *dsi, const char *prefix)
-+{
-+      if (dsi->port == 0) {
-+              vc4_dump_regs32(dsi0_regs, ARRAY_SIZE(dsi0_regs), dsi->regs,
-+                              prefix);
-+      } else {
-+              vc4_dump_regs32(dsi1_regs, ARRAY_SIZE(dsi1_regs), dsi->regs,
-+                              prefix);
-+      }
-+}
-+
-+#ifdef CONFIG_DEBUG_FS
-+int vc4_dsi_debugfs_regs(struct seq_file *m, void *number)
-+{
-+      struct drm_info_node *node = (struct drm_info_node *)m->private;
-+      struct drm_device *dev = node->minor->dev;
-+      struct vc4_dev *vc4 = to_vc4_dev(dev);
-+      struct vc4_dsi *dsi;
-+      int port = (uintptr_t)number;
-+
-+      if (port == 0) {
-+              dsi = vc4->dsi0;
-+              debugfs_print_regs32(m, dsi0_regs, ARRAY_SIZE(dsi0_regs),
-+                                   dsi->regs, "");
-+      } else {
-+              dsi = vc4->dsi1;
-+              debugfs_print_regs32(m, dsi1_regs, ARRAY_SIZE(dsi1_regs),
-+                                   dsi->regs, "");
-+      }
-+
-+      return 0;
-+}
-+#endif
-+
-+static enum drm_connector_status
-+vc4_dsi_connector_detect(struct drm_connector *connector, bool force)
-+{
-+      struct vc4_dsi_connector *vc4_connector =
-+              to_vc4_dsi_connector(connector);
-+      struct vc4_dsi *dsi = vc4_connector->dsi;
-+
-+      if (dsi->panel)
-+              return connector_status_connected;
-+      else
-+              return connector_status_disconnected;
-+}
-+
-+static void vc4_dsi_connector_destroy(struct drm_connector *connector)
-+{
-+      drm_connector_unregister(connector);
-+      drm_connector_cleanup(connector);
-+}
-+
-+static int vc4_dsi_connector_get_modes(struct drm_connector *connector)
-+{
-+      struct vc4_dsi_connector *vc4_connector =
-+              to_vc4_dsi_connector(connector);
-+      struct vc4_dsi *dsi = vc4_connector->dsi;
-+
-+      if (dsi->panel)
-+              return drm_panel_get_modes(dsi->panel);
-+
-+      return 0;
-+}
-+
-+static struct drm_encoder *
-+vc4_dsi_connector_best_encoder(struct drm_connector *connector)
-+{
-+      struct vc4_dsi_connector *dsi_connector =
-+              to_vc4_dsi_connector(connector);
-+      return dsi_connector->encoder;
-+}
-+
-+static const struct drm_connector_funcs vc4_dsi_connector_funcs = {
-+      .dpms = drm_atomic_helper_connector_dpms,
-+      .detect = vc4_dsi_connector_detect,
-+      .fill_modes = drm_helper_probe_single_connector_modes,
-+      .destroy = vc4_dsi_connector_destroy,
-+      .reset = drm_atomic_helper_connector_reset,
-+      .atomic_duplicate_state = drm_atomic_helper_connector_duplicate_state,
-+      .atomic_destroy_state = drm_atomic_helper_connector_destroy_state,
-+};
-+
-+static const struct drm_connector_helper_funcs vc4_dsi_connector_helper_funcs = {
-+      .get_modes = vc4_dsi_connector_get_modes,
-+      .best_encoder = vc4_dsi_connector_best_encoder,
-+};
-+
-+static struct drm_connector *vc4_dsi_connector_init(struct drm_device *dev,
-+                                                  struct vc4_dsi *dsi)
-+{
-+      struct drm_connector *connector = NULL;
-+      struct vc4_dsi_connector *dsi_connector;
-+      int ret = 0;
-+
-+      dsi_connector = devm_kzalloc(dev->dev, sizeof(*dsi_connector),
-+                                    GFP_KERNEL);
-+      if (!dsi_connector) {
-+              ret = -ENOMEM;
-+              goto fail;
-+      }
-+      connector = &dsi_connector->base;
-+
-+      dsi_connector->encoder = dsi->encoder;
-+      dsi_connector->dsi = dsi;
-+
-+      drm_connector_init(dev, connector, &vc4_dsi_connector_funcs,
-+                         DRM_MODE_CONNECTOR_DSI);
-+      drm_connector_helper_add(connector, &vc4_dsi_connector_helper_funcs);
-+
-+      connector->polled = 0;
-+      connector->interlace_allowed = 0;
-+      connector->doublescan_allowed = 0;
-+
-+      drm_mode_connector_attach_encoder(connector, dsi->encoder);
-+
-+      return connector;
-+
-+ fail:
-+      if (connector)
-+              vc4_dsi_connector_destroy(connector);
-+
-+      return ERR_PTR(ret);
-+}
-+
-+static void vc4_dsi_encoder_destroy(struct drm_encoder *encoder)
-+{
-+      drm_encoder_cleanup(encoder);
-+}
-+
-+static const struct drm_encoder_funcs vc4_dsi_encoder_funcs = {
-+      .destroy = vc4_dsi_encoder_destroy,
-+};
-+
-+static void vc4_dsi_latch_ulps(struct vc4_dsi *dsi, bool latch)
-+{
-+      u32 afec0 = DSI_PORT_READ(PHY_AFEC0);
-+
-+      if (latch)
-+              afec0 |= DSI_PORT_BIT(PHY_AFEC0_LATCH_ULPS);
-+      else
-+              afec0 &= ~DSI_PORT_BIT(PHY_AFEC0_LATCH_ULPS);
-+
-+      DSI_PORT_WRITE(PHY_AFEC0, afec0);
-+}
-+
-+/* Enters or exits Ultra Low Power State. */
-+static void vc4_dsi_ulps(struct vc4_dsi *dsi, bool ulps)
-+{
-+      u32 phyc_ulps = (DSI_PORT_BIT(PHYC_CLANE_ULPS) |
-+                       DSI_PHYC_DLANE0_ULPS |
-+                       (dsi->lanes > 1 ? DSI_PHYC_DLANE1_ULPS : 0) |
-+                       (dsi->lanes > 2 ? DSI_PHYC_DLANE2_ULPS : 0) |
-+                       (dsi->lanes > 3 ? DSI_PHYC_DLANE3_ULPS : 0));
-+      u32 stat_ulps = (DSI1_STAT_PHY_CLOCK_ULPS |
-+                       DSI1_STAT_PHY_D0_ULPS |
-+                       (dsi->lanes > 1 ? DSI1_STAT_PHY_D1_ULPS : 0) |
-+                       (dsi->lanes > 2 ? DSI1_STAT_PHY_D2_ULPS : 0) |
-+                       (dsi->lanes > 3 ? DSI1_STAT_PHY_D3_ULPS : 0));
-+      u32 stat_stop = (DSI1_STAT_PHY_CLOCK_STOP |
-+                       DSI1_STAT_PHY_D0_STOP |
-+                       (dsi->lanes > 1 ? DSI1_STAT_PHY_D1_STOP : 0) |
-+                       (dsi->lanes > 2 ? DSI1_STAT_PHY_D2_STOP : 0) |
-+                       (dsi->lanes > 3 ? DSI1_STAT_PHY_D3_STOP : 0));
-+      int ret;
-+
-+      DSI_PORT_WRITE(STAT, stat_ulps);
-+      DSI_PORT_WRITE(PHYC, DSI_PORT_READ(PHYC) | phyc_ulps);
-+      ret = wait_for((DSI_PORT_READ(STAT) & stat_ulps) == stat_ulps, 20);
-+      if (ret) {
-+              dev_warn(&dsi->pdev->dev,
-+                       "Timeout waiting for DSI ULPS entry: STAT 0x%08x",
-+                       DSI_PORT_READ(STAT));
-+              DSI_PORT_WRITE(PHYC, DSI_PORT_READ(PHYC) & ~phyc_ulps);
-+              vc4_dsi_latch_ulps(dsi, false);
-+              return;
-+      }
-+
-+      /* The DSI module can't be disabled while the module is
-+       * generating ULPS state.  So, to be able to disable the
-+       * module, we have the AFE latch the ULPS state and continue
-+       * on to having the module enter STOP.
-+       */
-+      vc4_dsi_latch_ulps(dsi, ulps);
-+
-+      DSI_PORT_WRITE(STAT, stat_stop);
-+      DSI_PORT_WRITE(PHYC, DSI_PORT_READ(PHYC) & ~phyc_ulps);
-+      ret = wait_for((DSI_PORT_READ(STAT) & stat_stop) == stat_stop, 20);
-+      if (ret) {
-+              dev_warn(&dsi->pdev->dev,
-+                       "Timeout waiting for DSI STOP entry: STAT 0x%08x",
-+                       DSI_PORT_READ(STAT));
-+              DSI_PORT_WRITE(PHYC, DSI_PORT_READ(PHYC) & ~phyc_ulps);
-+              return;
-+      }
-+}
-+
-+static uint32_t
-+dsi_hs_timing(u32 ui_ns, u32 ns, u32 ui)
-+{
-+      /* The HS timings have to be rounded up to a multiple of 8
-+       * because we're using the byte clock.
-+       */
-+      return roundup(ui + DIV_ROUND_UP(ns, ui_ns), 8);
-+}
-+
-+/* ESC always runs at 100Mhz. */
-+#define ESC_TIME_NS 10
-+
-+static uint32_t
-+dsi_esc_timing(u32 ns)
-+{
-+      return DIV_ROUND_UP(ns, ESC_TIME_NS);
-+}
-+
-+static void vc4_dsi_encoder_disable(struct drm_encoder *encoder)
-+{
-+      struct vc4_dsi_encoder *vc4_encoder = to_vc4_dsi_encoder(encoder);
-+      struct vc4_dsi *dsi = vc4_encoder->dsi;
-+
-+      drm_panel_disable(dsi->panel);
-+
-+      if (!dsi->use_firmware_setup)
-+              vc4_dsi_ulps(dsi, true);
-+
-+      drm_panel_unprepare(dsi->panel);
-+
-+      if (dsi->use_firmware_setup) {
-+              /* Since we're using the firmware setup and aren't
-+               * communicating with the panel to bring the link
-+               * down, we need to just keep the clocks and DSI
-+               * module running.
-+               */
-+      } else {
-+              clk_disable_unprepare(dsi->pll_phy_clock);
-+              clk_disable_unprepare(dsi->escape_clock);
-+              clk_disable_unprepare(dsi->pixel_clock);
-+      }
-+}
-+
-+static void vc4_dsi_encoder_enable(struct drm_encoder *encoder)
-+{
-+      struct drm_display_mode *mode = &encoder->crtc->mode;
-+      struct vc4_dsi_encoder *vc4_encoder = to_vc4_dsi_encoder(encoder);
-+      struct vc4_dsi *dsi = vc4_encoder->dsi;
-+      struct device *dev = &dsi->pdev->dev;
-+      uint32_t format = 0, divider = 0;
-+      bool debug_dump_regs = false;
-+      unsigned long hs_clock;
-+      uint32_t ui_ns;
-+      /* Minimum LP state duration in escape clock cycles. */
-+      uint32_t lpx = dsi_esc_timing(60);
-+      uint32_t phyc;
-+      int ret;
-+
-+      ret = drm_panel_prepare(dsi->panel);
-+      if (ret) {
-+              DRM_ERROR("Panel failed to prepare\n");
-+              return;
-+      }
-+
-+      if (debug_dump_regs)
-+              vc4_dsi_dump_regs(dsi, "DSI before: ");
-+
-+      /* XXX */
-+      if (!dsi->use_firmware_setup) {
-+              ret = clk_set_rate(dsi->pll_phy_clock, 2020000000 / 3);
-+              if (ret)
-+                      dev_err(&dsi->pdev->dev, "Failed to set phy clock: %d\n", ret);
-+              dev_info(&dsi->pdev->dev, "Tried to set clock to: %d\n", 2000000000 / 3);
-+
-+              ret = clk_prepare_enable(dsi->escape_clock);
-+              if (ret) {
-+                      DRM_ERROR("Failed to turn on DSI escape clock: %d\n", ret);
-+                      return;
-+              }
-+
-+              ret = clk_prepare_enable(dsi->pll_phy_clock);
-+              if (ret) {
-+                      DRM_ERROR("Failed to turn on DSI PLL: %d\n", ret);
-+                      return;
-+              }
-+
-+              ret = clk_set_rate(dsi->pixel_clock, mode->clock * 1000);
-+              if (ret)
-+                      dev_err(dev, "Failed to set pixel clock: %d\n", ret);
-+              dev_info(&dsi->pdev->dev, "Tried to set pixel clock to: %d\n", mode->clock * 1000);
-+
-+              ret = clk_prepare_enable(dsi->pixel_clock);
-+              if (ret) {
-+                      DRM_ERROR("Failed to turn on DSI pixel clock: %d\n", ret);
-+                      return;
-+              }
-+      }
-+
-+      hs_clock = clk_get_rate(dsi->pll_phy_clock);
-+
-+      /* Reset the DSI and all its fifos. */
-+      if (dsi->port == 0) {
-+              DSI_PORT_WRITE(CTRL,
-+                             DSI_CTRL_SOFT_RESET_CFG |
-+                             DSI0_CTRL_RESET_FIFOS);
-+      } else {
-+              DSI_PORT_WRITE(CTRL,
-+                             DSI_CTRL_SOFT_RESET_CFG |
-+                             DSI1_CTRL_RESET_FIFOS);
-+      }
-+
-+      DSI_PORT_WRITE(CTRL,
-+                     DSI_CTRL_HSDT_EOT_DISABLE |
-+                     DSI_CTRL_RX_LPDT_EOT_DISABLE);
-+
-+      switch (dsi->format) {
-+      case MIPI_DSI_FMT_RGB888:
-+              format = DSI_PFORMAT_RGB888;
-+              divider = 24 / dsi->lanes;
-+              break;
-+      case MIPI_DSI_FMT_RGB666:
-+              format = DSI_PFORMAT_RGB666;
-+              divider = 24 / dsi->lanes;
-+              break;
-+      case MIPI_DSI_FMT_RGB666_PACKED:
-+              format = DSI_PFORMAT_RGB666_PACKED;
-+              divider = 18 / dsi->lanes;
-+              break;
-+      case MIPI_DSI_FMT_RGB565:
-+              format = DSI_PFORMAT_RGB565;
-+              divider = 16 / dsi->lanes;
-+              break;
-+      }
-+
-+      /* Set AFE CTR00/CTR1 to release powerdown of analog. */
-+      if (dsi->port == 0) {
-+              u32 afec0 = (VC4_SET_FIELD(7, DSI_PHY_AFEC0_PTATADJ) |
-+                           VC4_SET_FIELD(7, DSI_PHY_AFEC0_CTATADJ));
-+
-+              if (dsi->lanes < 2)
-+                      afec0 |= DSI0_PHY_AFEC0_PD_DLANE1;
-+
-+              if (!(dsi->mode_flags & MIPI_DSI_MODE_VIDEO))
-+                      afec0 |= DSI0_PHY_AFEC0_RESET;
-+
-+              DSI_PORT_WRITE(PHY_AFEC0, afec0);
-+
-+              DSI_PORT_WRITE(PHY_AFEC1,
-+                        VC4_SET_FIELD(6,  DSI0_PHY_AFEC1_IDR_DLANE1) |
-+                        VC4_SET_FIELD(6,  DSI0_PHY_AFEC1_IDR_DLANE0) |
-+                        VC4_SET_FIELD(6,  DSI0_PHY_AFEC1_IDR_CLANE));
-+      } else {
-+              u32 afec0 = (VC4_SET_FIELD(7, DSI_PHY_AFEC0_PTATADJ) |
-+                           VC4_SET_FIELD(7, DSI_PHY_AFEC0_CTATADJ) |
-+                           VC4_SET_FIELD(6, DSI1_PHY_AFEC0_IDR_CLANE) |
-+                           VC4_SET_FIELD(6, DSI1_PHY_AFEC0_IDR_DLANE0) |
-+                           VC4_SET_FIELD(6, DSI1_PHY_AFEC0_IDR_DLANE1) |
-+                           VC4_SET_FIELD(6, DSI1_PHY_AFEC0_IDR_DLANE2) |
-+                           VC4_SET_FIELD(6, DSI1_PHY_AFEC0_IDR_DLANE3));
-+
-+              if (dsi->lanes < 4)
-+                      afec0 |= DSI1_PHY_AFEC0_PD_DLANE3;
-+              if (dsi->lanes < 3)
-+                      afec0 |= DSI1_PHY_AFEC0_PD_DLANE2;
-+              if (dsi->lanes < 2)
-+                      afec0 |= DSI1_PHY_AFEC0_PD_DLANE1;
-+
-+              if (!(dsi->mode_flags & MIPI_DSI_MODE_VIDEO))
-+                      afec0 |= DSI1_PHY_AFEC0_RESET;
-+
-+              DSI_PORT_WRITE(PHY_AFEC0, afec0);
-+
-+              DSI_PORT_WRITE(PHY_AFEC1, 0);
-+      }
-+
-+      /* How many ns one DSI unit interval is.  Note that the clock
-+       * is DDR, so there's an extra divide by 2.
-+       */
-+      ui_ns = DIV_ROUND_UP(500000000, hs_clock);
-+
-+      DSI_PORT_WRITE(HS_CLT0,
-+                     VC4_SET_FIELD(dsi_hs_timing(ui_ns, 262, 0),
-+                                   DSI_HS_CLT0_CZERO) |
-+                     VC4_SET_FIELD(dsi_hs_timing(ui_ns, 0, 8),
-+                                   DSI_HS_CLT0_CPRE) |
-+                     VC4_SET_FIELD(dsi_hs_timing(ui_ns, 38, 0),
-+                                   DSI_HS_CLT0_CPREP));
-+
-+      DSI_PORT_WRITE(HS_CLT1,
-+                     VC4_SET_FIELD(dsi_hs_timing(ui_ns, 60, 0),
-+                                   DSI_HS_CLT1_CTRAIL) |
-+                     VC4_SET_FIELD(dsi_hs_timing(ui_ns, 60, 52),
-+                                   DSI_HS_CLT1_CPOST));
-+
-+      DSI_PORT_WRITE(HS_CLT2,
-+                     VC4_SET_FIELD(dsi_hs_timing(ui_ns, 1000000, 0),
-+                                   DSI_HS_CLT2_WUP));
-+
-+      DSI_PORT_WRITE(HS_DLT3,
-+                     VC4_SET_FIELD(dsi_hs_timing(ui_ns, 100, 0),
-+                                   DSI_HS_DLT3_EXIT) |
-+                     VC4_SET_FIELD(dsi_hs_timing(ui_ns, 105, 6),
-+                                   DSI_HS_DLT3_ZERO) |
-+                     VC4_SET_FIELD(dsi_hs_timing(ui_ns, 40, 4),
-+                                   DSI_HS_DLT3_PRE));
-+
-+      DSI_PORT_WRITE(HS_DLT4,
-+                     VC4_SET_FIELD(dsi_hs_timing(ui_ns, lpx * ESC_TIME_NS, 0),
-+                                   DSI_HS_DLT4_LPX) |
-+                     VC4_SET_FIELD(max(dsi_hs_timing(ui_ns, 0, 8),
-+                                       dsi_hs_timing(ui_ns, 60, 4)),
-+                                   DSI_HS_DLT4_TRAIL) |
-+                     VC4_SET_FIELD(0, DSI_HS_DLT4_ANLAT));
-+
-+      DSI_PORT_WRITE(HS_DLT5, VC4_SET_FIELD(dsi_hs_timing(ui_ns, 1000, 5000),
-+                                            DSI_HS_DLT5_INIT));
-+
-+      DSI_PORT_WRITE(HS_DLT6,
-+                     VC4_SET_FIELD(lpx * 5, DSI_HS_DLT6_TA_GET) |
-+                     VC4_SET_FIELD(lpx, DSI_HS_DLT6_TA_SURE) |
-+                     VC4_SET_FIELD(lpx * 4, DSI_HS_DLT6_TA_GO) |
-+                     VC4_SET_FIELD(lpx, DSI_HS_DLT6_LP_LPX));
-+
-+      DSI_PORT_WRITE(HS_DLT7,
-+                     VC4_SET_FIELD(dsi_esc_timing(1000000),
-+                                   DSI_HS_DLT7_LP_WUP));
-+
-+      /* Define EOT PKT in EOT reg. */
-+
-+      phyc = (DSI_PHYC_DLANE0_ENABLE |
-+              (dsi->lanes >= 2 ? DSI_PHYC_DLANE1_ENABLE : 0) |
-+              (dsi->lanes >= 3 ? DSI_PHYC_DLANE2_ENABLE : 0) |
-+              (dsi->lanes >= 4 ? DSI_PHYC_DLANE3_ENABLE : 0) |
-+              (dsi->port == 0 ?
-+               VC4_SET_FIELD(lpx - 1, DSI0_PHYC_ESC_CLK_LPDT) :
-+               VC4_SET_FIELD(lpx - 1, DSI1_PHYC_ESC_CLK_LPDT)) |
-+              DSI_PORT_BIT(PHYC_CLANE_ENABLE));
-+
-+      DSI_PORT_WRITE(CTRL,
-+                     DSI_PORT_READ(CTRL) |
-+                     DSI_CTRL_CAL_BYTE);
-+
-+      /* HS timeout in HS clock cycles: disabled. */
-+      DSI_PORT_WRITE(HSTX_TO_CNT, 0);
-+      /* LP receive timeout in HS clocks. */
-+      DSI_PORT_WRITE(LPRX_TO_CNT, 0xffffff);
-+      /* Bus turnaround timeout */
-+      DSI_PORT_WRITE(TA_TO_CNT, 100000);
-+      /* Display reset sequence timeout */
-+      DSI_PORT_WRITE(TA_TO_CNT, 100000);
-+
-+      if (dsi->mode_flags & MIPI_DSI_MODE_VIDEO) {
-+              DSI_PORT_WRITE(DISP0_CTRL,
-+                             VC4_SET_FIELD(divider, DSI_DISP0_PIX_CLK_DIV) |
-+                             VC4_SET_FIELD(format, DSI_DISP0_PFORMAT) |
-+                             VC4_SET_FIELD(DSI_DISP0_LP_STOP_PERFRAME,
-+                                           DSI_DISP0_LP_STOP_CTRL) |
-+                             DSI_DISP0_ST_END |
-+                             DSI_DISP0_ENABLE);
-+      } else {
-+              DSI_PORT_WRITE(DISP0_CTRL,
-+                             DSI_DISP0_COMMAND_MODE |
-+                             DSI_DISP0_ENABLE);
-+      }
-+
-+      /* Set up DISP1 for transferring long command payloads through
-+       * the pixfifo.
-+       */
-+      DSI_PORT_WRITE(DISP1_CTRL,
-+                     VC4_SET_FIELD(DSI_DISP1_PFORMAT_32BIT_LE,
-+                                   DSI_DISP1_PFORMAT) |
-+                     DSI_DISP1_ENABLE);
-+
-+      if (!(dsi->mode_flags & MIPI_DSI_CLOCK_NON_CONTINUOUS))
-+              phyc |= DSI_PORT_BIT(PHYC_HS_CLK_CONTINUOUS);
-+
-+      DSI_PORT_WRITE(PHYC, phyc);
-+
-+      /* Ungate the block. */
-+      if (dsi->port == 0)
-+              DSI_PORT_WRITE(CTRL, DSI_PORT_READ(CTRL) | DSI0_CTRL_CTRL0);
-+      else {
-+              DSI_PORT_WRITE(CTRL, DSI_PORT_READ(CTRL) | DSI1_CTRL_EN);
-+      }
-+
-+      if (!dsi->use_firmware_setup)
-+              vc4_dsi_ulps(dsi, false);
-+
-+      if (debug_dump_regs)
-+              vc4_dsi_dump_regs(dsi, "DSI after: ");
-+
-+      ret = drm_panel_enable(dsi->panel);
-+      if (ret) {
-+              DRM_ERROR("Panel failed to enable\n");
-+              drm_panel_unprepare(dsi->panel);
-+              return;
-+      }
-+}
-+
-+static ssize_t vc4_dsi_host_transfer(struct mipi_dsi_host *host,
-+                                   const struct mipi_dsi_msg *msg)
-+{
-+      struct vc4_dsi *dsi = host_to_dsi(host);
-+      struct mipi_dsi_packet packet;
-+      u32 pkth = 0, pktc = 0;
-+      int i, ret;
-+      bool is_long = mipi_dsi_packet_format_is_long(msg->type);
-+      u32 cmd_fifo_len = 0, pix_fifo_len = 0;
-+
-+      mipi_dsi_create_packet(&packet, msg);
-+      pr_err("DSI host xfer %db, %s\n",
-+             packet.payload_length,
-+             is_long ? "long" : "short");
-+
-+      pkth |= VC4_SET_FIELD(packet.header[0], DSI_TXPKT1H_BC_DT);
-+      pkth |= VC4_SET_FIELD(packet.header[1] |
-+                            (packet.header[2] << 8),
-+                            DSI_TXPKT1H_BC_PARAM);
-+      if (is_long) {
-+              /* Divide data across the various FIFOs we have available.
-+               * The command FIFO takes byte-oriented data, but is of
-+               * limited size. The pixel FIFO (never actually used for
-+               * pixel data in reality) is word oriented, and substantially
-+               * larger. So, we use the pixel FIFO for most of the data,
-+               * sending the residual bytes in the command FIFO at the start.
-+               *
-+               * With this arrangement, the command FIFO will never get full.
-+               */
-+              cmd_fifo_len = packet.payload_length % DSI_PIX_FIFO_WIDTH;
-+              pix_fifo_len = ((packet.payload_length - cmd_fifo_len) /
-+                              DSI_PIX_FIFO_WIDTH);
-+
-+              WARN_ON_ONCE(pix_fifo_len >= DSI_PIX_FIFO_DEPTH);
-+
-+              pkth |= VC4_SET_FIELD(cmd_fifo_len, DSI_TXPKT1H_BC_CMDFIFO);
-+      }
-+
-+      if (msg->rx_len) {
-+              pktc |= VC4_SET_FIELD(DSI_TXPKT1C_CMD_CTRL_RX,
-+                                    DSI_TXPKT1C_CMD_CTRL);
-+      } else {
-+              pktc |= VC4_SET_FIELD(DSI_TXPKT1C_CMD_CTRL_TX,
-+                                    DSI_TXPKT1C_CMD_CTRL);
-+      }
-+
-+      dev_info(&dsi->pdev->dev, "FIFO setup: %d, %d\n",
-+               cmd_fifo_len, pix_fifo_len);
-+
-+      for (i = 0; i < cmd_fifo_len; i++)
-+              DSI_PORT_WRITE(TXPKT_CMD_FIFO, packet.payload[i]);
-+      for (i = 0; i < pix_fifo_len; i++) {
-+              const uint8_t *pix = packet.payload + cmd_fifo_len + i * 4;
-+              DSI_PORT_WRITE(TXPKT_PIX_FIFO,
-+                             pix[0] |
-+                             pix[1] << 8 |
-+                             pix[2] << 16 |
-+                             pix[3] << 24);
-+      }
-+
-+      if (msg->flags & MIPI_DSI_MSG_USE_LPM)
-+              pktc |= DSI_TXPKT1C_CMD_MODE_LP;
-+      if (is_long)
-+              pktc |= DSI_TXPKT1C_CMD_TYPE_LONG;
-+
-+      /* Send one copy of the packet.  Larger repeats are used for pixel
-+       * data in command mode.
-+       */
-+      pktc |= VC4_SET_FIELD(1, DSI_TXPKT1C_CMD_REPEAT);
-+
-+      pktc |= DSI_TXPKT1C_CMD_EN;
-+      if (pix_fifo_len) {
-+              pktc |= VC4_SET_FIELD(DSI_TXPKT1C_DISPLAY_NO_SECONDARY,
-+                                    DSI_TXPKT1C_DISPLAY_NO);
-+      } else {
-+              pktc |= VC4_SET_FIELD(DSI_TXPKT1C_DISPLAY_NO_SHORT,
-+                                    DSI_TXPKT1C_DISPLAY_NO);
-+      }
-+
-+      /* Enable the appropriate interrupt for the transfer completion. */
-+      dsi->xfer_result = 0;
-+      reinit_completion(&dsi->xfer_completion);
-+      DSI_PORT_WRITE(INT_STAT, DSI1_INT_TXPKT1_DONE | DSI1_INT_PHY_DIR_RTF);
-+      if (msg->rx_len) {
-+              DSI_PORT_WRITE(INT_EN, (DSI1_INTERRUPTS_ALWAYS_ENABLED |
-+                                      DSI1_INT_PHY_DIR_RTF));
-+      } else {
-+              DSI_PORT_WRITE(INT_EN, (DSI1_INTERRUPTS_ALWAYS_ENABLED |
-+                                      DSI1_INT_TXPKT1_DONE));
-+      }
-+
-+      /* Send the packet. */
-+      DSI_PORT_WRITE(TXPKT1H, pkth);
-+      DSI_PORT_WRITE(TXPKT1C, pktc);
-+
-+      if (!wait_for_completion_timeout(&dsi->xfer_completion,
-+                                       msecs_to_jiffies(100))) {
-+              u32 stat = DSI_PORT_READ(STAT);
-+
-+              dev_err(&dsi->pdev->dev, "transfer interrupt wait timeout");
-+              dev_err(&dsi->pdev->dev, "INT_STAT: 0x%08x, STAT: 0x%08x\n",
-+                      DSI_PORT_READ(INT_STAT), stat);
-+
-+              if (stat & DSI1_STAT_TXPKT1_DONE) {
-+                      dev_info(&dsi->pdev->dev,
-+                               "STAT reports DONE, though.\n");
-+                      ret = 0;
-+              } else {
-+                      ret = -ETIMEDOUT;
-+              }
-+      } else {
-+              ret = dsi->xfer_result;
-+      }
-+
-+      DSI_PORT_WRITE(INT_EN, DSI1_INTERRUPTS_ALWAYS_ENABLED);
-+      if (ret)
-+              goto reset_fifo_and_return;
-+
-+      if (ret == 0 && msg->rx_len) {
-+              u32 rxpkt1h = DSI_PORT_READ(RXPKT1H);
-+              u8 *msg_rx = msg->rx_buf;
-+
-+              if (rxpkt1h & DSI_RXPKT1H_PKT_TYPE_LONG) {
-+                      u32 rxlen = VC4_GET_FIELD(rxpkt1h, DSI_RXPKT1H_BC_PARAM);
-+
-+                      if (rxlen != msg->rx_len) {
-+                              DRM_ERROR("DSI returned %db, expecting %db\n",
-+                                        rxlen, msg->rx_len);
-+                              ret = -ENXIO;
-+                              goto reset_fifo_and_return;
-+                      }
-+
-+                      for (i = 0; i < msg->rx_len; i++)
-+                              msg_rx[i] = DSI_READ(DSI1_RXPKT_FIFO);
-+              } else {
-+                      /* XXX: AWER */
-+
-+                      msg_rx[0] = VC4_GET_FIELD(rxpkt1h,
-+                                                DSI_RXPKT1H_SHORT_0);
-+                      if (msg->rx_len > 1) {
-+                              msg_rx[1] = VC4_GET_FIELD(rxpkt1h,
-+                                                        DSI_RXPKT1H_SHORT_1);
-+                      }
-+              }
-+      }
-+
-+      return ret;
-+
-+reset_fifo_and_return:
-+      DRM_ERROR("DSI TRANSFER failed, resetting: %d\n", ret);
-+
-+      DSI_PORT_WRITE(TXPKT1C, DSI_PORT_READ(TXPKT1C) & ~DSI_TXPKT1C_CMD_EN);
-+      udelay(1);
-+      if (dsi->port == 0) {
-+              DSI_PORT_WRITE(CTRL,
-+                             DSI_PORT_READ(CTRL) | DSI0_CTRL_RESET_FIFOS);
-+      } else {
-+              DSI_PORT_WRITE(CTRL,
-+                             DSI_PORT_READ(CTRL) | DSI1_CTRL_RESET_FIFOS);
-+      }
-+
-+      DSI_PORT_WRITE(TXPKT1C, 0);
-+      DSI_PORT_WRITE(INT_EN, DSI1_INTERRUPTS_ALWAYS_ENABLED);
-+
-+
-+      return ret;
-+}
-+
-+static int vc4_dsi_host_attach(struct mipi_dsi_host *host,
-+                             struct mipi_dsi_device *device)
-+{
-+      struct vc4_dsi *dsi = host_to_dsi(host);
-+
-+      dsi->lanes = device->lanes;
-+      dsi->channel = device->channel;
-+      dsi->format = device->format;
-+      dsi->mode_flags = device->mode_flags;
-+
-+      if (!(dsi->mode_flags & MIPI_DSI_MODE_VIDEO)) {
-+              dev_err(&dsi->pdev->dev,
-+                      "Only VIDEO mode panels supported currently.\n");
-+              return 0;
-+      }
-+
-+      dsi->panel = of_drm_find_panel(device->dev.of_node);
-+      if (dsi->panel)
-+              return drm_panel_attach(dsi->panel, dsi->connector);
-+
-+      drm_helper_hpd_irq_event(dsi->connector->dev);
-+
-+      return 0;
-+}
-+
-+static int vc4_dsi_host_detach(struct mipi_dsi_host *host,
-+                             struct mipi_dsi_device *device)
-+{
-+      struct vc4_dsi *dsi = host_to_dsi(host);
-+
-+      if (dsi->panel) {
-+              int ret = drm_panel_detach(dsi->panel);
-+              if (ret)
-+                      return ret;
-+
-+              dsi->panel = NULL;
-+      }
-+
-+      drm_helper_hpd_irq_event(dsi->connector->dev);
-+
-+      return 0;
-+}
-+
-+static const struct mipi_dsi_host_ops vc4_dsi_host_ops = {
-+      .attach = vc4_dsi_host_attach,
-+      .detach = vc4_dsi_host_detach,
-+      .transfer = vc4_dsi_host_transfer,
-+};
-+
-+static const struct drm_encoder_helper_funcs vc4_dsi_encoder_helper_funcs = {
-+      .disable = vc4_dsi_encoder_disable,
-+      .enable = vc4_dsi_encoder_enable,
-+};
-+
-+static const struct of_device_id vc4_dsi_dt_match[] = {
-+      { .compatible = "brcm,bcm2835-dsi0", (void *)(uintptr_t)0 },
-+      { .compatible = "brcm,bcm2835-dsi1", (void *)(uintptr_t)1 },
-+      {}
-+};
-+
-+static long vc4_dsi_byte_clock_round_rate(struct clk_hw *hw, unsigned long rate,
-+                                        unsigned long *parent_rate)
-+{
-+      return *parent_rate / 8;
-+}
-+
-+static unsigned long vc4_dsi_byte_clock_get_rate(struct clk_hw *hw,
-+                                        unsigned long parent_rate)
-+{
-+      return parent_rate / 8;
-+}
-+
-+static int vc4_dsi_byte_clock_set_rate(struct clk_hw *hw,
-+                                     unsigned long rate,
-+                                     unsigned long parent_rate)
-+{
-+      return 0;
-+}
-+
-+/* The byte clock has *no* ops filled.  It's always running when the
-+ * PHY is.
-+ */
-+static const struct clk_ops vc4_dsi_byte_clock_ops = {
-+      .recalc_rate = vc4_dsi_byte_clock_get_rate,
-+      .set_rate = vc4_dsi_byte_clock_set_rate,
-+      .round_rate = vc4_dsi_byte_clock_round_rate,
-+};
-+
-+static void dsi_handle_error(struct vc4_dsi *dsi,
-+                           irqreturn_t *ret, u32 stat, u32 bit,
-+                           const char *type)
-+{
-+      if (!(stat & bit))
-+              return;
-+
-+      DRM_ERROR("DSI%d: %s error\n", dsi->port, type);
-+      *ret = IRQ_HANDLED;
-+}
-+
-+static irqreturn_t vc4_dsi_irq_handler(int irq, void *data)
-+{
-+      struct vc4_dsi *dsi = data;
-+      u32 stat = DSI_PORT_READ(INT_STAT);
-+      irqreturn_t ret = IRQ_NONE;
-+
-+      DSI_PORT_WRITE(INT_STAT, stat);
-+
-+      dsi_handle_error(dsi, &ret, stat,
-+                       DSI1_INT_ERR_SYNC_ESC, "LPDT sync");
-+      dsi_handle_error(dsi, &ret, stat,
-+                       DSI1_INT_ERR_CONTROL, "data lane 0 sequence");
-+      dsi_handle_error(dsi, &ret, stat,
-+                       DSI1_INT_ERR_CONT_LP0, "LP0 contention");
-+      dsi_handle_error(dsi, &ret, stat,
-+                       DSI1_INT_ERR_CONT_LP1, "LP1 contention");
-+      dsi_handle_error(dsi, &ret, stat,
-+                       DSI1_INT_HSTX_TO, "HSTX timeout");
-+      dsi_handle_error(dsi, &ret, stat,
-+                       DSI1_INT_LPRX_TO, "LPRX timeout");
-+      dsi_handle_error(dsi, &ret, stat,
-+                       DSI1_INT_TA_TO, "turnaround timeout");
-+      dsi_handle_error(dsi, &ret, stat,
-+                       DSI1_INT_PR_TO, "peripheral reset timeout");
-+
-+      if (stat & (DSI1_INT_TXPKT1_DONE | DSI1_INT_PHY_DIR_RTF)) {
-+              complete(&dsi->xfer_completion);
-+              ret = IRQ_HANDLED;
-+      } else if (stat & DSI1_INT_HSTX_TO) {
-+              complete(&dsi->xfer_completion);
-+              dsi->xfer_result = -ETIMEDOUT;
-+              ret = IRQ_HANDLED;
-+      }
-+
-+      return ret;
-+}
-+
-+static int
-+vc4_dsi_init_phy_byte_clock(struct vc4_dsi *dsi)
-+{
-+      struct device *dev = &dsi->pdev->dev;
-+      const char *parent_name = __clk_get_name(dsi->pll_phy_clock);
-+      struct clk_init_data init;
-+      struct clk *clk;
-+
-+      memset(&init, 0, sizeof(init));
-+      init.parent_names = &parent_name;
-+      init.num_parents = 1;
-+      if (dsi->port == 1)
-+              init.name = "dsi1_byte";
-+      else
-+              init.name = "dsi0_byte";
-+      init.ops = &vc4_dsi_byte_clock_ops;
-+      init.flags = 0;
-+
-+      dsi->phy_byte_clock.init = &init;
-+      clk = devm_clk_register(dev, &dsi->phy_byte_clock);
-+      if (IS_ERR(clk))
-+              return PTR_ERR(clk);
-+
-+      /* Use the onecell provider because we may need to expose the
-+       * DDR and DDR2 clocks at some point, which we'd want to put
-+       * in slots 1 and 2.
-+       */
-+      dsi->clk_onecell.clk_num = 1;
-+      dsi->clk_onecell.clks = devm_kcalloc(dev,
-+                                           dsi->clk_onecell.clk_num,
-+                                           sizeof(*dsi->clk_onecell.clks),
-+                                           GFP_KERNEL);
-+      if (!dsi->clk_onecell.clks)
-+              return -ENOMEM;
-+
-+      dsi->clk_onecell.clks[0] = clk;
-+
-+      return of_clk_add_provider(dev->of_node,
-+                                 of_clk_src_onecell_get,
-+                                 &dsi->clk_onecell);
-+}
-+
-+static int vc4_dsi_bind(struct device *dev, struct device *master, void *data)
-+{
-+      struct platform_device *pdev = to_platform_device(dev);
-+      struct drm_device *drm = dev_get_drvdata(master);
-+      struct vc4_dev *vc4 = to_vc4_dev(drm);
-+      struct vc4_dsi *dsi;
-+      struct vc4_dsi_encoder *vc4_dsi_encoder;
-+      const struct of_device_id *match;
-+      dma_cap_mask_t dma_mask;
-+      int ret;
-+
-+      dsi = devm_kzalloc(dev, sizeof(*dsi), GFP_KERNEL);
-+      if (!dsi)
-+              return -ENOMEM;
-+
-+      match = of_match_device(vc4_dsi_dt_match, dev);
-+      if (!match)
-+              return -ENODEV;
-+
-+      dsi->port = (uintptr_t)match->data;
-+
-+      vc4_dsi_encoder = devm_kzalloc(dev, sizeof(*vc4_dsi_encoder),
-+                                     GFP_KERNEL);
-+      if (!vc4_dsi_encoder)
-+              return -ENOMEM;
-+      vc4_dsi_encoder->base.type = VC4_ENCODER_TYPE_DSI1;
-+      vc4_dsi_encoder->dsi = dsi;
-+      dsi->encoder = &vc4_dsi_encoder->base.base;
-+
-+      dsi->pdev = pdev;
-+      dsi->regs = vc4_ioremap_regs(pdev, 0);
-+      if (IS_ERR(dsi->regs))
-+              return PTR_ERR(dsi->regs);
-+
-+      if (DSI_PORT_READ(ID) != DSI_ID_VALUE) {
-+              dev_err(dev, "Port returned 0x%08x for ID instead of 0x%08x\n",
-+                      DSI_PORT_READ(ID), DSI_ID_VALUE);
-+              return -ENODEV;
-+      }
-+
-+      if (DSI_PORT_READ(CTRL) == 0) {
-+              dev_info(dev, "DSI not set up by firmware.\n");
-+              return 0;
-+      }
-+
-+      /* Set this flag to indicate that we're relying on boot-time
-+       * DSI state and can't successfully reconfigure DSI yet.
-+       */
-+      dsi->use_firmware_setup = VC4_DSI_USE_FIRMWARE_SETUP;
-+
-+      if (dsi->use_firmware_setup) {
-+              /* Increment references to the various clocks so that
-+               * they stay always enabled and the clock framework
-+               * doesn't disable their parents.
-+               */
-+              ret = clk_prepare_enable(dsi->escape_clock);
-+              if (ret) {
-+                      DRM_ERROR("Failed to refcount DSI escape clock: %d\n", ret);
-+                      return ret;
-+              }
-+
-+              ret = clk_prepare_enable(dsi->pll_phy_clock);
-+              if (ret) {
-+                      DRM_ERROR("Failed to refcount DSI PLL: %d\n", ret);
-+                      return ret;
-+              }
-+
-+              ret = clk_prepare_enable(dsi->pixel_clock);
-+              if (ret) {
-+                      DRM_ERROR("Failed to refcount pixel clock: %d\n", ret);
-+                      return ret;
-+              }
-+      }
-+
-+      /* DSI1 has a broken AXI slave that doesn't respond to writes
-+       * from the ARM.  It does handle writes from the DMA engine,
-+       * so set up a channel for talking to it.
-+       */
-+      if (dsi->port == 1) {
-+              dsi->reg_dma_mem = dma_alloc_coherent(dev, 4,
-+                                                    &dsi->reg_dma_paddr,
-+                                                    GFP_KERNEL);
-+              if (!dsi->reg_dma_mem) {
-+                      DRM_ERROR("Failed to get DMA memory\n");
-+                      return -ENOMEM;
-+              }
-+
-+              dma_cap_zero(dma_mask);
-+              dma_cap_set(DMA_MEMCPY, dma_mask);
-+              dsi->reg_dma_chan = dma_request_channel(dma_mask, NULL, NULL);
-+              if (IS_ERR(dsi->reg_dma_chan)) {
-+                      ret = PTR_ERR(dsi->reg_dma_chan);
-+                      if (ret != -EPROBE_DEFER)
-+                              DRM_ERROR("Failed to get DMA channel: %d\n",
-+                                        ret);
-+                      return ret;
-+              }
-+
-+              /* Get the physical address of the device's registers.  The
-+               * struct resource for the regs gives us the bus address
-+               * instead.
-+               */
-+              dsi->reg_paddr = be32_to_cpup(of_get_address(dev->of_node,
-+                                                           0, NULL, NULL));
-+      }
-+
-+      init_completion(&dsi->xfer_completion);
-+      /* At startup enable error-reporting interrupts and nothing else. */
-+      DSI_PORT_WRITE(INT_EN, DSI1_INTERRUPTS_ALWAYS_ENABLED);
-+      /* Clear any existing interrupt state. */
-+      DSI_PORT_WRITE(INT_STAT, DSI_PORT_READ(INT_STAT));
-+
-+      ret = devm_request_irq(dev, platform_get_irq(pdev, 0),
-+                             vc4_dsi_irq_handler, 0, "vc4 dsi", dsi);
-+      if (ret) {
-+              if (ret != -EPROBE_DEFER)
-+                      dev_err(dev, "Failed to get interrupt: %d\n", ret);
-+              return ret;
-+      }
-+
-+      dsi->escape_clock = devm_clk_get(dev, "escape");
-+      if (IS_ERR(dsi->escape_clock)) {
-+              ret = PTR_ERR(dsi->escape_clock);
-+              if (ret != -EPROBE_DEFER)
-+                      dev_err(dev, "Failed to get escape clock: %d\n", ret);
-+              return ret;
-+      }
-+
-+      dsi->pll_phy_clock = devm_clk_get(dev, "phy");
-+      if (IS_ERR(dsi->pll_phy_clock)) {
-+              ret = PTR_ERR(dsi->pll_phy_clock);
-+              if (ret != -EPROBE_DEFER)
-+                      dev_err(dev, "Failed to get phy clock: %d\n", ret);
-+              return ret;
-+      }
-+
-+      dsi->pixel_clock = devm_clk_get(dev, "pixel");
-+      if (IS_ERR(dsi->pixel_clock)) {
-+              ret = PTR_ERR(dsi->pixel_clock);
-+              if (ret != -EPROBE_DEFER)
-+                      dev_err(dev, "Failed to get pixel clock: %d\n", ret);
-+              return ret;
-+      }
-+
-+      /* The esc clock rate is supposed to always be 100Mhz. */
-+      ret = clk_set_rate(dsi->escape_clock, 100 * 1000000);
-+      if (ret) {
-+              dev_err(dev, "Failed to set esc clock: %d\n", ret);
-+              return ret;
-+      }
-+
-+      ret = vc4_dsi_init_phy_byte_clock(dsi);
-+      if (ret)
-+              return ret;
-+
-+      if (dsi->port == 1)
-+              vc4->dsi1 = dsi;
-+
-+      drm_encoder_init(drm, dsi->encoder, &vc4_dsi_encoder_funcs,
-+                       DRM_MODE_ENCODER_DSI);
-+      drm_encoder_helper_add(dsi->encoder, &vc4_dsi_encoder_helper_funcs);
-+
-+      dsi->connector = vc4_dsi_connector_init(drm, dsi);
-+      if (IS_ERR(dsi->connector)) {
-+              ret = PTR_ERR(dsi->connector);
-+              goto err_destroy_encoder;
-+      }
-+
-+      dsi->dsi_host.ops = &vc4_dsi_host_ops;
-+      dsi->dsi_host.dev = dev;
-+
-+      mipi_dsi_host_register(&dsi->dsi_host);
-+
-+      dev_set_drvdata(dev, dsi);
-+
-+      return 0;
-+
-+err_destroy_encoder:
-+      vc4_dsi_encoder_destroy(dsi->encoder);
-+
-+      return ret;
-+}
-+
-+static void vc4_dsi_unbind(struct device *dev, struct device *master,
-+                         void *data)
-+{
-+      struct drm_device *drm = dev_get_drvdata(master);
-+      struct vc4_dev *vc4 = to_vc4_dev(drm);
-+      struct vc4_dsi *dsi = dev_get_drvdata(dev);
-+
-+      vc4_dsi_connector_destroy(dsi->connector);
-+      vc4_dsi_encoder_destroy(dsi->encoder);
-+
-+      mipi_dsi_host_unregister(&dsi->dsi_host);
-+
-+      if (!dsi->use_firmware_setup) {
-+              clk_disable_unprepare(dsi->pll_phy_clock);
-+              clk_disable_unprepare(dsi->escape_clock);
-+              clk_disable_unprepare(dsi->pixel_clock);
-+      }
-+
-+      if (dsi->port == 1)
-+              vc4->dsi1 = NULL;
-+}
-+
-+static const struct component_ops vc4_dsi_ops = {
-+      .bind   = vc4_dsi_bind,
-+      .unbind = vc4_dsi_unbind,
-+};
-+
-+static int vc4_dsi_dev_probe(struct platform_device *pdev)
-+{
-+      return component_add(&pdev->dev, &vc4_dsi_ops);
-+}
-+
-+static int vc4_dsi_dev_remove(struct platform_device *pdev)
-+{
-+      component_del(&pdev->dev, &vc4_dsi_ops);
-+      return 0;
-+}
-+
-+struct platform_driver vc4_dsi_driver = {
-+      .probe = vc4_dsi_dev_probe,
-+      .remove = vc4_dsi_dev_remove,
-+      .driver = {
-+              .name = "vc4_dsi",
-+              .of_match_table = vc4_dsi_dt_match,
-+      },
-+};